OPML: Cadre d'apprentissage automatique basé sur la méthode optimiste

Nous avons proposé un nouveau cadre appelé OPML(Optimistic apprentissage machine ), capable d'exécuter efficacement l'inférence et l'entraînement des modèles d'IA sur les systèmes de blockchain. Comparé à ZKML, OPML présente des coûts inférieurs et une efficacité supérieure. Les exigences matérielles d'OPML sont très faibles, un PC ordinaire peut exécuter des tâches OPML incluant des modèles de langage de grande taille tels que 7B-LLaMA sans GPU.

OPML utilise un mécanisme de jeu de validation pour garantir la décentralisation et la vérifiabilité des services ML. Le processus est le suivant :

1. L'utilisateur initie une demande de service ML
2. Le serveur termine la tâche et soumet les résultats sur la chaîne.
3. Les validateurs vérifient les résultats, et en cas de désaccord, un jeu de validation est lancé.
4. Localiser les étapes d'erreur spécifiques via le protocole de bifurcation
5. Enfin, l'arbitrage étape par étape est effectué par un contrat intelligent.

Jeu de validation à une seule étape

Les points clés de l'OPML à une seule étape incluent :

• Construire une machine virtuelle pour l'exécution hors chaîne et l'arbitrage sur chaîne (VM)
• Réaliser une bibliothèque DNN légère dédiée, améliorer l'efficacité de l'inférence AI
• Utiliser la technologie de compilation croisée pour compiler le code d'inférence AI en instructions VM
• Utiliser un arbre de Merkle pour gérer les images VM, ne télécharger que le hash racine sur la chaîne

Lors des tests de base, nous avons pu terminer l'inférence DNN en 2 secondes, et l'ensemble du processus de défi peut être complété en 2 minutes.

Jeu de vérification multi-étapes

Pour surmonter les limitations des solutions à une seule étape, nous avons proposé un jeu de validation à plusieurs étapes :

• Ne calculer que dans la VM à la dernière étape, les autres étapes peuvent être exécutées de manière flexible.
• Profitez pleinement de l'accélération et du traitement parallèle GPU/TPU
• Améliorer considérablement les performances d'exécution, proches du niveau de l'environnement local
• Utiliser l'arbre de Merkle pour garantir l'intégrité et la sécurité des transitions entre les phases.

Prenons le modèle LLaMA comme exemple, nous adoptons la méthode OPML en deux étapes :

• La deuxième phase consiste à effectuer des jeux de validation sur le graphe de calcul, avec possibilité d'accélération par GPU.
• La première phase convertit le calcul d'un nœud unique en instructions VM

La méthode à plusieurs étapes permet d'atteindre un facteur de calcul α par rapport à la méthode à une seule étape, tout en réduisant considérablement la taille de l'arbre de Merkle.

Cohérence et déterminisme

Pour garantir la cohérence des résultats ML, nous avons pris les mesures suivantes:

1. Utiliser l'algorithme à virgule fixe ( pour réduire l'impact des erreurs de flottement.
2. Utiliser une bibliothèque de points flottants logicielle cohérente multiplateforme

Ces technologies surmontent efficacement les défis posés par les variables à virgule flottante et les différences de plateforme, renforçant la fiabilité du calcul OPML.

OPML est toujours en cours de développement. Nous accueillons les personnes intéressées par ce projet à rejoindre et à contribuer au développement d'OPML.

![OPML : Système de machine learning utilisant Optimistic Rollup])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(