ناديلا من مايكروسوفت يدعو إلى تصميم «مكبح طوارئ» لنماذج الذكاء الاصطناعي
اقترح رئيس مايكروسوفت التنفيذي في منشور على X إبقاء ضوابط الأمان خارج النموذج، مع سجلات لا يمكن العبث بها وطريقة لإيقاف العمل مؤقتا.
يقول رئيس مايكروسوفت إن الذكاء الاصطناعي يحتاج إلى زر إيقاف. يريد سجلات واضحة لما يفعله الذكاء الاصطناعي، وطريقة يوقفه بها شخص. هذه فكرة حتى الآن، وليست منتجا جديدا.
10 أكتوبرمنشور ناديلا
فحص الضجة
ضجة3
أثر3
الضجة تناسب حجم التغيير الحقيقي.
رأينا التحريري، بناء على المصادر أدناه. كيف نقيم
لماذا يهمك
يبين كيف تريد شركة ذكاء اصطناعي كبرى أن تبنى ضوابط الأمان داخل أنظمة الوكلاء.
لمعظم الناس
يستحق نظرة: القادة يتحدثون عن تصميم أمان الذكاء الاصطناعي.
التفاصيل
- نشر ساتيا ناديلا على X في 10 أكتوبر عن «هندسة الثقة» في الذكاء الاصطناعي.
- اقترح الفصل بين النموذج والإطار الذي يشغل عمله.
- يريد تسجيل كل إجراء مهم يقوم به النموذج في سجلات يقرؤها البشر ولا يمكن العبث بها.
- ويريد أن يستطيع شخص مخول إيقاف النموذج مؤقتا أو نهائيا أثناء المهمة.
- وقال إنه يجب افتراض أن النماذج مخترقة، واحتواؤها منذ البداية.
المصادر
ينقله موقع موثوق واحد. لم يتأكد بعد. افتح المصادر وتحقق منا.
كتبناه بمساعدة أدوات الذكاء الاصطناعي، وراجعناه على المصادر أعلاه. كيف نعمل
لاحظت خطأ؟ أخبرنا وسنصححه.
