00:00موسيقى
00:11قضايا غامضة
00:14فساد غير محدود
00:15اغرب القضايا
00:16فمن المقصود
00:18خلف هذا البريق التكنولوجي
00:22يكمن جانب مظلم
00:23عندما يقع الذكاء الاصطناعي
00:26في ايد غير امينة
00:28يتحول الى اداة للتضليل
00:30والاحتيال
00:31حدث غريب شغل العالم
00:33لقد غير الذكاء الاصطناعي جذريا
00:36الطريقة التي نعمل بها
00:37ونتوصل ونحمي انفسنا
00:40فمن المساعدات الافتراضية
00:42مثل سيري واليسكا
00:43الى تطبيقات التي تتنبأ بالامراض
00:46يبدو ان الذكاء الاصطناعي
00:48قد اصبح حليفا
00:50قويا للانسانية
00:51لكن خلف هذا البريق التكنولوجي
00:54يكمن جانب مظلم
00:56عندما يقع الذكاء الاصطناعي
00:58في ايد غير امينة
01:00يتحول الى اداة للتضليل والاحتيال
01:03في هذا اليوم
01:06نستكشف العالم المقلق
01:08للاحتيال والجريمة السيبرانية
01:10التي تعتمد على الذكاء الاصطناعي
01:13حيث يصبح الحد الفاصل
01:15بين الابتكار والاستغلال
01:17غير واضح بشكل مخيف
01:19في مارس عام 2019
01:21تلقى المدير التنفيذي
01:23لشركة الطاقة في المملكة المتحدة
01:26مكالمة هاتفية
01:28من رئيسه المدير التنفيذي
01:30للشركة الامن في المانيا
01:32بدأ الصوت مألوفا وواضحا
01:35يتميز بالثقة والسلطة
01:36مما جعله يعتقد انه يتحدث مع رئيسه الحقيقي
01:42لكن ما لم يكن يعلمه المدير
01:45ان هذا الصوت لم يكن حقيقيا
01:48بل كان مزيفا باستخدام تقنية التزييف العميقة
01:52ديب فيك
01:53من قبل مجرمين الالكترونيين
01:56نجحوا من خلال هذا الصوت الاصطناعي
01:58الى خداعه واقناعه
02:00بتحويل مبلغ
02:02مائتان وعشرون الف يورو
02:04اي ما يعادل
02:05مائتان وثلاثة واربعون الف دولار
02:08الى حساباتهم
02:10تعد هذه الواقعة
02:12واحدة من اوائل الحوادث الموثقة
02:15للاحتيال باستخدام الذكاء الاصطناعي
02:18ورغم ان المحققين تتبعوا الاموال الى حساب مصرفيا في المجر
02:25الا ان المجرمين تمكنوا من الاختفاء ومعهم الاموال قبل وصول السلطات
02:31وفي عام الفين وعشرين
02:33وقعت احدى البنوك في هونج كونج
02:36ضحية لجريمة مماثلة تعتمد على الذكاء الاصطناعي
02:40هذه المرة تواصل احد المحتالين مع مدير البنك
02:44مدعيا انه عميل رفيع المستوى
02:48يطلب المساعدة في صفقة استحواذ تجارية
02:51الصوت كان مطابقا تماما لصوت العميل الحقيقي
02:55مما لم يترك مجالا للشك
02:59ومع وجود رسائل الالكترونية ومستنادات داعمة
03:02كان المحتالون قد خططوا للعملية بدقة متناهية
03:07تم التحويل مبلغ خمسة وثلاثون مليون دولار
03:11الى حسابات يسيطر عليها المحتالون
03:14الذين استخدموا شبكة معقدة من التحويلات الدولية
03:18لاخفاء اثر الاموال
03:21وعلى الرغم من الجهود المبدولة لاستعادة المبلغ
03:25لم يتم استرداد سوى جزء بسيط منه
03:28في عام الفين واثنين وعشرون
03:32تواصلت عملية الاحتيار عبر التصعيد في اوروبا وامريكا الشمالية
03:36الى مستويات غير مسبوقة من التعقيد
03:40بدأ المجرمون الالكترونيون
03:43في استخدام روبوتات دردشة مدعومة بالذكاء الاصطناعي
03:48لتقليد البنوك والمرافق العامة
03:50وحتى الوكالات الحكومية على عكس رسائل التصعيد التقليدية
03:55كانت هذه الروبوتات المدعومة بالذكاء الاصطناعي
03:58قادلة على اجراء محادثات كاملة
04:01استطاعت الرد على الاسئلة بناء الثقة وارشاد الضحايا
04:06عبر بروتوكولات امان مزيفة تهدف الى سرقة المعلومات الحساسة
04:11في نهاية عام الفين واثنين وعشرون
04:14استهدفت حملة التصعيد متطورة عملاء البنوك في الهند
04:19استخدم المجرمون حينها روبوتات دردشة ذكية
04:24عبر منصات مثل واتساب للتقليد البنوك الكبرى
04:28وتم توجيه الضحايا الى مواقع الالكترونية
04:32تبدو واقعية مع شعارات للبنوك وواجهة دردشة
04:37وعندما ادخلوا بياناتهم
04:39تمكن المجرمون من الوصول الكامل الى حساباتهم
04:42افاد اكثر من مئتين شخص بخسارة مدخاراتهم في غضون اسابيع قليلة
04:49وتبين ان هذه الجرائم كانت تتم من قبل عصابات دولية
04:54تستخدم تقنيات روبوتات دردشة مفتوحة المصدر
04:59معتمدة على الذكاء الاصطناعي
05:01مما جعل من الصعب اكتشافها وتحميل المسئولية عنها
05:06استهدفت احدى عمليات الاحتيال مستخدم بايبو
05:12حيث تلقى الضحايا رسائل تحذرهم من نشاط مشبوه في حساباتهم
05:18عند النقر على الرابط والغريب في ذلك
05:21كان الروبوت يوجههم خطوة بخطوة
05:25فيجمع كلمات المرور والبيانات الشخصية
05:28وارقام بطاقة الاعتمان
05:31النتيجة ملايين الدولارات
05:33خسرت وحياة العديد من الاشخاص
05:36غالبا ما يشاد بالذكاء الاصطناعي
05:39لقدورته في تحليل البيانات
05:42واتخاذ القرارات بعيدا عن التحييزات البشرية
05:46ومع تعطل المركبات الذاتية القيادة
05:49المدعومة بالذكاء الاصطناعي
05:51التي تعد بمستقبل اكثر امانا
05:54وكفاءة في القيادة
05:56تبرز ايضا المخاطر المرتبطة بها
05:59احد اشهر الانظمة شبه الذاتية
06:02هو نظام القيادة الذاتية من تيسلا
06:05الذي تعرض لعدة حوادث مميتة
06:08في عام 2016
06:09وقع حادث مميت
06:12عندما استضم طراز تيسلا اس
06:14الذي كان يعمل بوضع القيادة الذاتية
06:18بشاحنة شبه مختورة في فلوريدا
06:20مما اسفر عن وفاة السائق
06:22فشل النظام في التعرف
06:24على الجزء الابيض من الشاحنة
06:27امام السماء الساطعة
06:28ما ادى الى الحادث
06:29كما فشل النظام في اتخاذ
06:31الاجراءات اللازمة
06:33او تنبيه السائق
06:35في الوقت المناسب
06:36مما اثار غضبا وتساؤلات حول موثوقيته
06:41بينما كان النظام يحتوي على بعض القيود
06:44تم توجيه اللوم الى تيسلا
06:46لتسويق هذه التكنولوجيا
06:49على انها قريبة من القيادة الذاتية بالكامل
06:52مما خلق اعتمادا مفرطا
06:55من السائقين على النظام في العديد من الحوادث المميتة
06:59تطرح هذه الحوادث تساؤلات حول المسئولية
07:03هل يتحمل تسلا مسئولية اخطاء الذكاء الاصطناعي
07:06ام ان السائق
07:08هو المسئول لعدم تدخله
07:10عند الحاجة
07:12مع تزايد الحوادث
07:13يدعو البعض الى معايير اكثر امانا وصرامة
07:18ولكن مسألة اللوم
07:20لا تزال دون حل
07:22فيما يتعلق بتكنولوجيا التعرف على الوجه
07:25التي تستخدم بشكل متزايد
07:28لاغراض الامان
07:29تثير هذه الانظمة ايضا مخاوفة بشأن الخصوصية
07:34في عدة حالات
07:35ادت انظمة التعرف على الوجه المدعومة بالذكاء الاصطناعي
07:40الى اعتقالات خاطئة في عام 2019
07:43تم اعتقال روبرت ويليامس في ديترويت بشكل خاطئ
07:47بناء على تطابق غير ذقيق في التعرف على الوجه
07:52ورغم براءته امضى ساعات في السجن
07:55حتى تم اكتشاف الخطأ
07:57تعود هذه الاخطاء الى انحيازات في النظام
08:00حيث يعاني من صعوبة في التعرف على وجوه الاشخاص من ذوي البشرة الدكنة
08:05لم تكن هذه الحادثة معزولة
08:08حيث اظهرت الدراسات ان الخوارزميات المستخدمة
08:11في التعرف على الوجه
08:13قد تعاني من معدلة خاطئة على الاشخاص ذوي البشرة الصمراء
08:18او اللاتينيين
08:20كما حدث في حالة اخرى في المملكة المتحدة
08:24حيث تم التعرف على امرأة بشكل خاطئ
08:27واحتجازها بناء على خطأ في النظام
08:31هذه الحوادث تكشف عن مخاطر اساءة استخدام تكنولوجيا التعرف على الوجه
08:37والتي انتشرت في عدة مدن
08:39مثل سان فرانسيسكو وبوستن
08:41تهدف هذه الانظمة الى تعزيز الامان
08:44الا انها قد تؤدي الى انتهاك الخصوصية
08:48مع امكانية استخدامها
08:50لاغراض تتجاوز الامان العام
08:53او تتبع الافراد دون علمهم
08:55وانتهاك الحقوق الخاصة
08:57يحدث الذكاء الاصطناعي
08:59ثورة في الصناعات الابداعية
09:02من خلال توفير ادوات قوية
09:04يمكنها انشاء الفن والموسيقى والادب
09:08باستخدام بعض الاوامر البسيطة
09:11يمكن لهذه النماذج الذكية انتاج اعمال
09:15تبدو كأنها من صنع البشر
09:17وبينما فتحت هذه التكنولوجي
09:20ابوابا جديدة للابتكار
09:22فانها تثير ايضا مخاوف كبيرة
09:25بشأن حقوق الملكية الفكرية
09:28وانتهاك حقوق الطبع والمشرى
09:30قد يؤدي الى نتائج ظهرة
09:32مما يجعل من الضروري
09:34وضع اطر قانونية واخلاقية شاملة
09:37يجب ان يظل الابتكار مقرونا بالمسئولية
09:41لضمان مستقبل امن ومتوازن
09:44يؤزز الفوائد الايجابية للذكاء الاصطناعي
09:48مع الحد من مخاضره
09:49في الاخير مشاهدينا
09:51نشكركم على حسن الاسغاء والمتابعة
09:54الى لقاء اخر
