J'ai réalisé quelque chose d'inconfortable en recherchant OpenGradient.

Tous les modèles d'IA que j'ai utilisés, je n'ai aucune idée s'ils ont réellement fonctionné.

Pas dans une optique de théorie du complot. Dans une optique très basique et technique.

Lorsque j'envoie une requête à un système d'IA, je reçois une réponse. Mais je n'ai aucune preuve que le modèle que j'ai demandé est celui qui a traité mon entrée. La société pourrait utiliser un modèle moins cher. Une version différente. Quelque chose qui a été échangé discrètement pour réduire les coûts.

Je ne le saurais jamais.

Cela m'a dérangé plus que je ne l'aurais pensé.

Parce que nous construisons des systèmes financiers, des outils médicaux, et une infrastructure légale sur l'IA, et l'hypothèse de confiance fondamentale est simplement "croyez-nous, le bon modèle a été utilisé."

Ce n'est pas une infrastructure. C'est un accord de poignée de main avec une boîte noire.

HACA d'OpenGradient produit une preuve cryptographique de exactement quel modèle a été utilisé, sur quelles entrées, dans quel environnement matériel.

Pas la parole d'une entreprise. Pas un fichier journal. Une preuve.

a16z crypto et Coinbase Ventures ont soutenu cela. Plus de 2 millions d'inférences déjà vérifiées sur un réseau en direct.

La question que le reste de l'infrastructure IA évite soigneusement, OpenGradient la construit en y répondant.

Avez-vous déjà pensé si le modèle d'IA que vous avez interrogé a réellement fonctionné ou si vous avez simplement supposé qu'il l'avait fait ?