OPML: marco de aprendizaje automático basado en métodos optimistas

Hemos propuesto un nuevo marco llamado OPML( Optimistic Machine Learning ), que puede ejecutar de manera eficiente la inferencia y el entrenamiento de modelos de IA en sistemas blockchain. En comparación con ZKML, OPML tiene un costo más bajo y una mayor eficiencia. Los requisitos de hardware de OPML son muy bajos; una PC normal puede ejecutar tareas de OPML que incluyen modelos de lenguaje grandes como 7B-LLaMA sin necesidad de GPU.

OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y verificabilidad de los servicios de ML. Su proceso es el siguiente:

1. El usuario inicia una solicitud de servicio ML
2. El servidor completa la tarea y envía los resultados a la cadena.
3. Los validadores revisan los resultados, y si hay objeciones, se inicia el juego de validación.
4. Localizar pasos de error específicos a través del protocolo de bifurcación
5. Finalmente, la resolución se lleva a cabo mediante un contrato inteligente.

Juego de verificación de una sola etapa

Los puntos clave del OPML de una sola etapa incluyen:

• Construir una máquina virtual para la ejecución fuera de la cadena y el arbitraje en la cadena (VM)
• Implementar una biblioteca DNN liviana especializada, para mejorar la eficiencia de la inferencia de IA.
• Utilizar la tecnología de compilación cruzada para compilar el código de inferencia de IA en instrucciones de VM
• Utiliza un árbol de Merkle para gestionar las imágenes de VM, solo sube el hash raíz a la cadena.

En la prueba básica, podemos completar la inferencia DNN en menos de 2 segundos, y todo el proceso del desafío se puede completar en menos de 2 minutos.

Juego de validación de múltiples etapas

Para superar las limitaciones del esquema de una sola fase, proponemos un juego de validación de múltiples fases:

• Solo calcular en la VM en la última etapa, las otras etapas se pueden ejecutar de manera flexible.
• Aprovechar al máximo la aceleración y el procesamiento paralelo de GPU/TPU
• Aumentar significativamente el rendimiento de ejecución, acercándose al nivel del entorno local
• Utilizar árboles de Merkle para garantizar la integridad y seguridad de las transiciones entre etapas

Tomando como ejemplo el modelo LLaMA, utilizamos un método OPML de dos fases:

• La segunda fase se lleva a cabo en el grafo de cálculo para validar el juego, se puede usar aceleración por GPU.
• La primera fase convierte el cálculo de un solo nodo en instrucciones de VM

El método de múltiples etapas puede lograr una aceleración de cálculo de α veces en comparación con el método de una sola etapa, al mismo tiempo que reduce drásticamente el tamaño del árbol de Merkle.

Consistencia y determinación

Para garantizar la consistencia de los resultados de ML, hemos tomado las siguientes medidas:

1. Utilizar el algoritmo de punto fijo ( para la técnica de cuantificación ) para reducir el impacto del error de punto flotante.
2. Utilizar una biblioteca de punto flotante de software consistente entre plataformas

Estas tecnologías superaron eficazmente los desafíos presentados por las variables de punto flotante y las diferencias de plataforma, mejorando la confiabilidad del cálculo de OPML.

OPML sigue en desarrollo. Damos la bienvenida a las personas interesadas en el proyecto para unirse y contribuir al desarrollo de OPML.