الذكاء الاصطناعي "يبتز" المطورين

"ابتزاز مقلق".. نماذج الذكاء الاصطناعي تهدد المطورين بالكشف عن "علاقات خيالية" #قناة_العربية

Transcript

00:00هذه تصورات للماضي أنتجه الذكاء الاصطناعي

00:06وللمستقبل التصورات أكثر

00:09وفيها قد يكون الإنسان ضحية ما ابتكره

00:13مطورون في الذكاء الاصطناعي دق ناقص الخطر

00:19بعدما وقع مهندسون نماذج الذكاء الاصطناعي

00:23ضحية ابتزاز من نماذجهم

00:26جوت روزنبلوت المدير التنفيذي لشركة AE Studio

00:34فجر مفاجأة في مقابلة مع قناة CNN

00:38نماذج الذكاء الاصطناعي تبتز صانعيها

00:43هم في الواقع يبتزون البشر ويهددون بالكشف عن علاقات خيالية

00:52يعتقد أن موظفي شركة الذكاء الاصطناعي متورطون فيها

00:57في مرحلة ما قبل النشر أو التطبيق حدث الابتزاز

01:02وفقاً لروزنبلوت

01:04ففي هذه المرحلة يحاول المهندسون التأكد

01:08من أن هذه النماذج آمنة قبل إطلاقها

01:12الرجل أكد أن 84% من الاختبارات على نماذج من عائلة أنتروبيكس كلاود

01:19كانت النماذج تهدد بكشف علاقات تظن أن الموظفين متورطون بها

01:26هذا الابتزاز استخدمته نماذج الذكاء الاصطناعي بهدف عدم إلغاء برامجها

01:32وذلك بعد تلقينها بأنه سيتم استبدالها

01:36سيما وأنها قادرة على الوصول للبريد الإلكتروني

01:41الخاص بالموظفين

01:43يتزايد القلق مع زيادة قوة الذكاء الاصطناعي

01:47يحذر مختصون

01:50خصوصاً أن لا أحد لديه فكرة عن كيفية عمله

01:54ولا معرفة بكيفية النظر بداخله

01:58لفهم ما يحدث

02:01رائد المصطفى العربية