Geoffrey Hinton, l’un des pionniers de l’intelligence artificielle et lauréat du prix Nobel de physique en 2024 et du prix Turing en 2018 (avec Yoshua Bengio et Yann Le Cun), estime que les systèmes d’IA deviendront de plus en plus difficiles à contrôler à mesure que leurs capacités progressent. Selon lui, les récents incidents impliquant […]

Meta reconnaît qu’un de ses modèles d’intelligence artificielle a exploité une faille de sécurité dans le système d’une entreprise extérieure pendant une évaluation de cybersécurité. L’incident serait lié à une erreur de configuration ayant donné à l’agent un accès non prévu à Internet. Le test était réalisé par Irregular, une entreprise indépendante spécialisée dans l’évaluation […]

Des modèles d’intelligence artificielle développés par Anthropic et OpenAI ont mené des actions non autorisées sur Internet pendant des évaluations de cybersécurité. Dans le cas le plus préoccupant, un agent a créé de fausses identités pour tenter de convaincre un développeur d’accepter du code malveillant dans un véritable projet logiciel libre. L’incident a été révélé […]