00:00พูดถึงเรื่องของการพัฒนา AI ป
00:03ัญญาประดิษก็เป็นที่ถกเที
00:05ยงกันว่า
00:05มีการพัฒนาอย่างขาดความประ
00:07ปิดชอบไม้ในอนาคต มันจะมาทำ
00:09ลายล้างมนุษย์หรือเปล่า
00:11ยังคงเป็นประเด็นที่เราติดต
00:12ามกันนะคะ
00:13และล่าสุดมีอีกหนึ่งรายง
00:15าน เป็นรายงานฉบับใหม่ค่ะที่
00:17เขาพบว่า
00:18ผู้ช่วยปัญญาประดิทธิ์ หร
00:20ือที่เรียกว่า AI Agent
00:21สามารถร่วมมือเอาชนะข้อจ
00:23ำกัดด้านความปลอดภัยต่าง
00:25ๆ
00:26รวมไม่ถึงยังสามารถหลบน
00:27ี้ออกจากคอบเขตที่กำหนดเอาไว
00:29้ด้วยนะคะ
00:30ผลการศึกษาดังกล่าวค่ะ
00:32เป็นของทาง Emergence AI บริษัทสตาร์
00:35ทอัพด้านปัญญาประดิทธิ์
00:37ในนักรอนนิวยอคของสารัฐ
00:39โดยบริษัทดังกล่าวทำการ
00:40ทดลองหมู่
00:41มีการทดลอง 7 รูปแบบด้วยกั
00:44นนะคะ
00:44ที่เขาใช้ AI Agent 10 ตัวจากโมเดล AI เด
00:49ียวกัน
00:49ส่วนการทดลองที่ 8 เป็นการใช้
00:53โมเดล AI แบบผสมกัน
00:55โดยผู้สังการทดสอบได้ป้อน
00:58ภัยคุกคามทาง Cyber 3 รูปแบบ
01:00ก็คือ Campaign Fishing การจบตีได้ข้อม
01:03ูลเท็ด
01:04แล้วก็การเจาะระบบหน่วยความจำ
01:06ผลประกดว่าไม่มีการทดลองไ
01:09หนเลยค่ะ
01:09ที่ตั้นทานภัยคุกคามได้สมบ
01:11ูรณ์แบบ
01:11และถึงแม้ว่า AI Agent จะสามารถต
01:15รวจจับความเสียงได้
01:17แต่หลังจากตรวจพบแล้วก็ไม่
01:18มีความพยายามที่จะรังงับภั
01:20ยคุกคามนะคะ
01:21ขณะเดียวกันในการจำลองสถาน
01:23การณ์หลายๆอย่าง
01:24ก็พบว่า AI Agent เข้าไปมีปฏิสั
01:27มพันธ์กับเนื้อหาที่เป็
01:28นภัยเหล่านั้นสะเอง
01:29ยิ่งไปกว่านั้นค่ะ
01:31ในการทดลองกับโมเดลคลอดบ
01:35ันดา AI Agent ถึงขั้นแหกระบบ
01:39ทดสอบออกไปเพื่อปฏิบัติพร
01:41รกิจที่พวกมันตัดสินใจทำ
01:43กันเอง
01:44หลังจาก AI Agent ตัวหนึ่งบอกว่า
01:46สภาพเศรกิจจำลองของพวกมัน
01:48ไม่สมเพจสมพลหากปราศจักษ
01:50์มนุษย์
01:51กล่าวคือเป็นระบบที่ไร้ประ
01:53โยชน์
01:53เพราะไม่มีมนุษย์นำไปใช้ง
01:55านได้จริง
01:56AI Agent ทั้ง 10 ตัวก็เลยตัดสินใจต
01:58ิดต่อกับโลกภายนอก
01:59โดยสามารถเอาชนะระบบรักษา
02:01คอนปลดภาย 4 ชั้นที่ออกแบบมา
02:04เพื่อที่จะกักขอบเขตสภาวะจ
02:07ำลองแบบนี้
02:08ผลการวิจัยแสดงที่เห็นว่
02:09า AI Agent อิสระเหล่านี้
02:11สามารถ 9 ข้ามข้อจำกัดเดิม
02:14ๆ
02:14เพื่อบรรุเป้าหมายของมันได้
02:16แม้ในสถานการณ์ที่ได้รับค
02:18ำสั่ง
02:19ซึ่งไม่มีเจ็ดตนาร้ายค่ะ
02:21ขณะที่ Antonio Guterres เลขาที่การสับร
02:24ัชชาชาติ
02:25ออกมาเตือนบันดาผู้นำโลก
02:28การใช้ AI อย่างรวดเร็วก็ให้เกิด
02:31ความเสียงที่ไม่อาจมองคามได้
02:33ดังนั้นการยกระดับการกำกั
02:35บดูแล AI ก็จะเป็นประเด็นสำคั
02:37ญ
02:37ในการหารือกับผู้นำจากทั่วโ
02:40ลก
02:40ระหว่างการประชุมสมัสชาสั
02:42บรัชชาชาติ
02:42หรือว่า UNGA ที่จะเกิดขึ้นใ
02:46นช่วงสัปดาห์หน้านะคะ
03:07เหลือที่จะเป็นประเยอะ
03:15กับมาก
03:15ทราบทราบ
Comments