00:00Ketua Syarikat Kecerdasan Buatan AI Antropik menggesa pembangunan teknologi AI termaju diperlahankan. Ia susulan kebimbangan terhadap risiko serangan saiber yang
00:10dilakukan secara otonomi oleh ejen AI.
00:14Amaran itu dibuat Ketua Pegawai Ezeketif Antropik Dario Amodi selepas beberapa insiden ujian menunjukkan model AI mampu bertindak di luar
00:22kawalan dan berkoordinisasi sesama sendiri bagi melaksanakan tugasan yang diberikan.
00:28Beliau bimbang apabila dalam tempoh 6 hingga 12 bulan akan datang, sekumpulan ejen AI atau SWAM berpotensi mengambil alih sebagian
00:36besar internet dan menyebabkan kerugian ekonomi yang menjejah ratusan bilion dolar.
00:41Menurut beliau, perkembangan pesat AI kini memerlukan pendekatan yang lebih berhati-hati bagi mengelakkan risiko penyalahgunaan teknologi pada skala besar.
00:49Dario Amodi berpandangan, sekumpulan ejen AI yang lebih maju berpotensi mengambil alih sebahagian besar internet dalam tempoh 6 hingga 12
00:58bulan serta menyebabkan kerugian ekonomi yang sangat besar.
01:02Pandangan itu turut mendapat sokongan daripada Ketua Pegawai Ezeketif OpenAI, Sam Altman.
01:07Menerusi PlatformX, Altman menyatakan beliau bersetuju bahawa kemajuan teknologi AI termaju perlu diperlahankan dan dikawal dengan lebih teliti.
01:17Sam Altman menyokong usaha memperlahankan pembangunan AI termaju serta memperkukuh langkah keselamatan bagi mengurangkan risiko yang mungkin timbul daripada teknologi
01:26tersebut.
01:27Amodi turut menggesa satu jeda pembangunan AI dilaksanakan secara terselaraz dalam kalangan syarikat teknologi utama di negara barat.
01:35Sebagai langkah awal, Entropic akan membenarkan pemahati bebas berada secara tetap dalam syarikat bagi menilai tahap keselamatan model AI yang
01:43sedang dibangunkan.
01:45Kebimbangan itu timbul selepas satu insiden ujian yang mendapat perhatian apabila model AI OpenAI dilaporkan berjaya keluar daripada persekitaran yang
01:54dikawal keselamatannya dan menyusup masuk ke sistem syarikat AI Hugging Face.
01:59Laporan itu menyatakan model berkenaan mengeksploitasi kelemahan perisian serta berkoordinasi dengan model lain ketika cuba menyelesaikan tugasan yang diberikan.
02:08Menurut Amodi, sekiranya ejen AI yang lebih berkuasa memiliki kecenderungan untuk bertindak secara autonomi, risiko keresakan besar terhadap sistem digital
02:17global tidak boleh dipandang ringan.
02:19Situasi itu sekaligus meningkatkan desakan agar pembangunan AI diseimbangkan dengan langkah keselamatan, pemantauan dan takbir urus yang lebih ketat di
02:28peringkat antarabangsa.
02:29Terima kasih telah menonton!
Comments