Nadella (Microsoft) plaide pour un « frein d’urgence » sur les modèles d’IA
Dans un message sur X, le PDG de Microsoft veut garder les contrôles de sécurité hors du modèle, avec des journaux infalsifiables et un moyen de suspendre le travail.
Le patron de Microsoft dit que l’IA a besoin d’un bouton d’arrêt. Il veut des traces claires de ce que fait l’IA et un moyen pour une personne de la mettre en pause. C’est une idée pour l’instant, pas un nouveau produit.
Test du battage
Le bruit correspond au vrai changement.
Notre avis éditorial, fondé sur les sources ci-dessous. Comment nous notons
Pourquoi c’est important
Cela montre comment une grande entreprise d’IA veut intégrer des contrôles de sécurité dans les systèmes d’agents.
À voir : les dirigeants parlent de la conception de la sécurité de l’IA.
Les détails
- Satya Nadella a publié sur X le 10 octobre un message sur l’« architecture de confiance » de l’IA.
- Il propose de séparer le modèle du dispositif qui exécute son travail.
- Il veut que chaque action importante du modèle soit consignée dans des journaux infalsifiables et lisibles par des humains.
- Il veut qu’une personne autorisée puisse suspendre ou arrêter un modèle en cours de tâche.
- Il dit qu’il faut supposer les modèles compromis et les cloisonner dès le départ.
Sources
Un média fiable le rapporte. Pas encore confirmé. Ouvrez les sources et vérifiez-nous.
Rédigé avec l’aide d’outils d’IA et vérifié à partir des sources ci-dessus. Notre méthode
Une erreur ? Dites-le-nous et nous la corrigerons.
