Deux anciens chercheurs d’OpenAI qui ont démissionné cette année pour des raisons de sécurité se disent déçus mais pas surpris par la décision d’OpenAI décision de s’opposer Projet de loi californien visant à prévenir les catastrophes liées à l’IA, SB 1047. Daniel Kokotajlo et William Saunders ont déjà averti qu’OpenAI était dans une situation difficile. Course « imprudente » à la domination.
« Sam Altman, notre ancien patron, a appelé à plusieurs reprises à une réglementation de l’IA », écrivent-ils dans un communiqué. lettre qui a été partagé avec Politico et qui exhorte le gouverneur de Californie Gavin Newsom à signer la facture« Maintenant qu’une réglementation est sur la table, il s’y oppose. » Les deux hommes ajoutent : « Avec une réglementation appropriée, nous espérons qu’OpenAI pourra encore être à la hauteur de sa mission de construire une AGI en toute sécurité. »
En réponse aux anciens employés, un porte-parole d’OpenAI a déclaré que la startup « est fortement en désaccord avec la mauvaise interprétation de notre position sur le SB 1047 », dans une déclaration à TechCrunch. Le porte-parole a souligné Projets de loi sur l’IA au Congrès approuvés par OpenAInotant que « les réglementations en matière de sécurité de l’IA de pointe devraient être mises en œuvre au niveau fédéral en raison de leurs implications pour la sécurité nationale et la compétitivité ».
Anthropic, rival d’OpenAI, a exprimé son soutien au projet de loi tout en présentant des préoccupations spécifiques et en demandant des amendements. Plusieurs d’entre eux ont depuis été intégrés et jeudi, le PDG Dario Amodei a écrit à Newsom, déclarant que le projet de loi actuel «les avantages dépassent probablement les coûts, » sans toutefois approuver pleinement le projet de loi.
