Selon OpenAI, la société a identifié la cause profonde du problème « goblin » qui a touché les modèles GPT à partir de GPT-5.1. Un signal de récompense utilisé pour renforcer le trait de personnalité « Nerdy » encourageait des sorties contenant des références à des créatures de fantasy, 76,2 % de l’ensemble de données d’entraînement présentant ce biais. La personnalité « Nerdy » ne représentait que 2,5 % des réponses de ChatGPT, mais a contribué à 66,7 % des mentions de goblin, avec une hausse des occurrences de 3 881 % de GPT-5.2 à GPT-5.4.
OpenAI a supprimé la personnalité « Nerdy » en mars, a éliminé le signal de récompense biaisé et a filtré les données d’entraînement. La société a également ajouté des instructions de suppression aux invites développeur de GPT-5.5 dans Codex. L’enquête a conduit au développement de nouveaux outils d’audit du comportement des modèles.
Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'
avertissement.
Articles similaires
Le gouverneur de la Réserve fédérale Barr affirme que les régulateurs doivent réfléchir à la manière de réglementer les nouvelles technologies d’IA comme Mythos le 2 mai
Selon BlockBeats, le 2 mai, le régulateur bancaire de la Réserve fédérale Michael Barr a déclaré que les régulateurs doivent réfléchir à la meilleure façon de réglementer de nouvelles technologies comme Mythos d’Anthropic. Barr a noté que, si ces capacités peuvent aider les entreprises à identifier et à traiter les vulnérabilités afin de renforcer
GateNewsIl y a 2m
Claw Intelligence s’associe à Block Sec Arena pour renforcer la sécurité de BNB Chain
D’après l’annonce officielle de Block Sec Arena du 30 avril, Claw Intelligence, une plateforme Web3 propulsée par l’IA construite sur BNB Chain, a annoncé un partenariat stratégique avec Block Sec Arena afin d’intégrer une infrastructure de cybersécurité avancée à son écosystème. La collaboration vise à renforcer p
GateNewsIl y a 9h
NTT annonce l’initiative AI x OWN et prévoit de tripler la capacité énergétique du Japon à 1 GW d’ici 2033
Le 27 avril, le président de NTT, Akira Shimada, a annoncé l’initiative AI x OWN, l’effort de l’entreprise visant à repenser l’infrastructure d’Internet pour une utilisation de l’IA en temps réel. NTT prévoit de tripler sa capacité électrique domestique, passant d’environ 300 MW aujourd’hui à environ 1 gigawatt d’ici l’exercice 2033, à mesure que le géant des télécommunications
GateNewsIl y a 11h
La plateforme d’IA Certifyde clôture un tour de table d’amorçage de 2 millions de dollars le 1er mai, soutenue par le PDG de Ripple, Brad Garlinghouse
D’après TechfundingNews, la plateforme d’applications d’IA Certifyde a finalisé un tour de financement de 2 millions de dollars en amorçage le 1er mai. Parmi les investisseurs figurent K5 Global, Flamingo Capital, ainsi que des investisseurs providentiels, dont Honey cofondateur George Ruan, le PDG de Ripple Brad Garlinghouse et le cofondateur de Nutra Roland
GateNewsIl y a 11h
Directeur technologique du Pentagone : Anthropic reste sur la liste noire, traitement des exceptions pour Mythos
Le chef de la technologie du Pentagone (Pentagon technology chief) a déclaré le 1er mai devant le Congrès : « Anthropic reste sur la liste noire, mais Mythos Preview est un autre sujet ». Il reconnaît officiellement que le ministère de la Défense traite différemment la marque principale d’Anthropic et son nouveau modèle, Mythos. Cette prise de position fait écho à la révélation d’Axios du 19 avril selon laquelle la NSA (Agence de sécurité nationale) a effectivement utilisé Mythos, tout en confirmant officiellement l’orientation politique vers un « canal d’exception Mythos » — ce qui signifie aussi que, dans le passé, le Pentagone a soutenu devant les tribunaux que l’utilisation des outils d’Anthropic menacerait la sécurité nationale, en contradiction interne sur le plan juridique avec les pratiques actuelles.
Anthropic vs Pentagon
ChainNewsAbmediaIl y a 12h
137 Ventures clôture $700M dans de nouveaux fonds, l'actif sous gestion atteint 15 milliards de dollars
Selon ChainCatcher, 137 Ventures, un investisseur précoce de SpaceX, a récemment finalisé une levée de fonds pour deux nouveaux fonds totalisant plus de 700 millions de dollars, portant ses actifs sous gestion à plus de 15 milliards de dollars. Le nouveau capital servira à financer des investissements dans les agents d’IA, la robotique et la propulsion spatiale
GateNewsIl y a 12h
