Les IA autonomes et militarisées qui s'auto-répliquent, une menace imminente ?

On croirait voir là un prémisse de la saga cinématographique Terminator, où des robots dotés d’une superintelligence et complètement autonomes mènent la guerre aux humains. Toutefois, les craintes de Dario Amodei sont bien réelles. Selon le directeur d’Anthropic, société spécialisée en intelligence artificielle, les IA pourraient très bientôt s’auto-répliquer. C’est ce que l’ancien membre d’Open AI a déclaré dans un entretien accordé au New York Times, que rapporte Futura.

Dario Amodei a quitté OpenAI en raison de divergences philosophiques avec son ancien employeur, qu’il jugeait un brin aventureux. Il a donc développé Anthropic avec l’idée d’en faire un exemple de modèle de langage éthique et sécurisé. A cet égard, il a créé une échelle de mesure des dangers des intelligences artificielles : AI Safety Levels (ASL). Anthropic a ainsi défini quatre niveaux de sécurité, notamment pour son chatbot, Claude.

Pour l’heure, les modèles se classent au niveau ASL 2, c’est-à-dire avec des risques présents, mais modérés. Cependant, Dario Amodei reste préoccupé. A ses yeux, le niveau ASL 4 pourrait être atteint en 2025. Concrètement, les intelligences artificielles seraient alors capables, selon lui, de persuader les humains et d’être douées d’autonomie. Mais l’entrepreneur craint moins ces deux idées que l’utilisation qui pourrait en être faite.

Entre les mains de régimes autoritaires tels que la Chine, la Russie ou de dictatures comme la Corée du Nord, ces innovations pourraient représenter (...)

(...) Cliquez ici pour voir la suite

Les règles d’indemnisation du chômage bientôt durcies ? La coqueluche reprend de la vigueur en France… Le Flash éco du jour
Coupes d’Europe de football : combien le PSG et l’OM vont gagner grâce à leur demi-finale
Pour Gabriel Attal, nos écrans sont une «catastrophe sécuritaire» mais comment y remédier ?
Le pétrole s’envole, les frappes d’Israël en Iran provoquent une nouvelle escalade
Européennes 2024 : faut-il créer un impôt européen pour les plus riches ?