technologie

Altman Affirme Une Vision Fondamentalement Différente d'Anthropic sur la Sécurité de l'IA

Malgré un rapprochement récent sur la sécurité de l'intelligence artificielle entre Anthropic et OpenAI, Sam Altman, PDG d'OpenAI, maintient qu'une divergence fondamentale persiste dans leur approche. Dans une interview exclusive accordée à Decoded by POLITICO, Altman a déclaré que sa société considère que les bénéfices de la technologie justifient l'acceptation de certains risques, et que l'IA devrait rester largement accessible au public.

Une Acceptation des Risques pour l'Autonomie

"Je crois qu'il y a beaucoup de lumière au bout du tunnel", a affirmé Altman. Il a souligné une différence clé avec Anthropic et son PDG, Dario Amodei : "Nous pensons que le monde devrait accepter que certaines choses mauvaises se produisent au profit de cette technologie et pour donner aux gens plus d'autonomie."

David Robinson, responsable de la sécurité chez OpenAI, a récemment démissionné, ajoutant à une période de turbulences au sein d'Anthropic. Cette dernière a traditionnellement porté la voix en matière de réglementation de l'IA, une position contrastant avec celle d'OpenAI.

Ralentissement du Développement et Accès Indépendant

Ralentissement du Développement et Accès Indépendant

Dario Amodei avait précédemment appelé le secteur à ralentir l'amélioration des capacités des modèles d'IA et à consacrer plus de temps à garantir un développement sûr. Altman s'est engagé à adopter la suggestion d'Amodei, en intégrant des évaluateurs indépendants avec un accès similaire à celui des employés. Elon Musk, dirigeant de xAI, a exprimé son accord : "Dario a raison."

Rejet d'un Contrôle Centralisé

Rejet d'un Contrôle Centralisé

Altman a précisé qu'il ne partageait pas l'idée selon laquelle un seul laboratoire devrait contrôler une technologie aussi puissante et dangereuse. Il a qualifié un tel arrangement de "marché complètement inacceptable" et a réaffirmé le soutien d'OpenAI à une "posture réglementaire plus souple". Il a également déclaré ne pas accepter "les risques réellement catastrophiques", y compris le potentiel d'une "grave perte de contrôle".