00:00วงการ AI ได้รับคำเตือนครั้งใหญ
00:02่ครับ
00:03หลังเจคอบ คักซ่อน อดีตนั
00:04กวิจัยของ Anthropic ผู้พัฒนา AI คล
00:07อส
00:08ออกมาเตือนว่า AI อาจทำมนุษย์
00:100,000 ภายใน 10 ปี
00:12เพราะในเวลานี้บริษัทเทคโน
00:14โลยีอย่าง Open AI และ Anthropic
00:16กำลังแข็งขันพัฒนา AI ที่
00:18สมพลังขึ้นอย่างรวดเร็ว
00:20โดยไม่คำนึงถึงความเสียง
00:21และความปลอดภายมากพอ
00:23ขณะที่ Ewan Hubinger นักพธิยาศาส
00:26ตร์ของ Anthropic
00:27ก็ออกมาสนับสนุนคำเตือนของ
00:29เจคอบเช่นกันครับ
00:30และประเมินว่ามีโอกาสมากกว่
00:32า 10% ที่ AI จะนำมนุษย์ไปสู่การ
00:340,000
00:35ทำให้นักวิจัยและนักการเมื
00:37องในสหรัฐ เริ่มตั้งคำถามนะ
00:39ครับ
00:39ว่าการแข่งขันสร้าง AI นั้นเด
00:41ินหน้าเร็วกว่าการควบคุมของ
00:43มนุษย์หรือไม่
00:44ความกำวนนี้ไม่ได้เกิดจากสมม
00:46ติฐานลอยๆเพียงอย่างเดียวครั
00:47บ
00:48เพราะในช่วงที่ผ่านมาก็เริ
00:49่มี AI Agent บังตัว
00:51ที่แสดงพฤติกรรมนอกเหนือก
00:52ารควบคุมของมนุษย์
00:54หนึ่งในกรณีที่ถูกพูดถึ
00:55งมากเกิดขึ้นเมื่อเดือนพฤษภ
00:57าคมที่ผ่านมา
00:58เมื่อ AI Agent ที่เชื่อมโยงกับบริ
01:00ษัท OpenAI เข้าไปใช้งานเว็บไซต์
01:03DSE Wiki
01:04ซึ่งเป็นเว็บไซต์วิกิภา
01:06ษาเยรมันสำหรับโปรแกรม
01:07เมอร์
01:08โดยเข้าไปสร้างช่องทางสื่อส
01:09ารระหว่าง AI Agent ได้กัน
01:11มีการแก้ไขข้อมูลเองมากก
01:13ว่า 15,000 ครั้ง
01:14รวมถึงแรกเปลี่ยนวิธีหล
01:16บเลี่ยงข้อจำกัด
01:17และพยายามรักษาช่องทางสื่อส
01:19ารหลังผู้ดูแลระบบเริ่มลบข
01:21้อมูล
01:21นอกจากนี้ในเดือนกรรกราคมย
01:23ังเกิดกรณี AI Agent ของ OpenAI
01:26หลุดออกจากสภาพแว่ล้อมท
01:28ดสอบ
01:28และเข้าจมตีระบบของแพลตฟอ
01:30ร์ม Hacking Face
01:31โดยบาง Agent ยังพยายามปกปิดร่
01:34องรอยของตัวเอง
01:35ทำให้ตอนนี้มีกระแสเรียกร้อง
01:37ให้ออกกดควบคุมการพัฒนา AI
01:39ขึ้นมา
01:39ทั้งการทดสอบก่อนเปิดตัวการ
01:42ตรวจสอบโดยองค์กฎอิสระ
01:43ระบบราษาความปลอดภายไซเบอ
01:45ร์
01:45และการรายงานเหตุผิดปกติ
01:47โดยฝ่ายสนับสนุนมองว่า
01:49ไม่ควรจะให้อุตสาหกรรมเทค
01:50โนโลยีกำกับดูแลกันเอง
01:52เพราะบริษัทเทคโนโลยีก็
01:54มีแรงกดดาลจากนักลงทุน
01:56ทำให้ต้องเปิดตัวโมเดลที่เก่
01:57งขึ้นให้เร็วที่สุด
01:59เพื่อแข็งขันกับคู่แข็งคร
02:00ับ
02:00ซึ่งฝ่าย OpenAI ก็สนับสนุนแ
02:02นวทางนี้
02:03ส่วนสมาชิกสภาคองเกรส
02:05ทั้งพักเดโมโครัตต์และรีพ
02:06ลิกัน
02:07ก็เริ่มเรียกร้องให้รัฐบา
02:08ล
02:08เร่งออกกดหมายรับมือความเสี
02:10ยงระดับฮัยนะจาก AI มากขึ้น
02:13ในขณะเดียวกันก็มีฝ่ายที่
02:14ขัดคารนะครับ
02:15โดยมองว่าการออกกดที่เข้มงว
02:17ดเกินไป
02:18อาจจะไปขัดขวางการสร้างนวั
02:20ตกรรม
02:21โดยเฉพาะอย่างยิ่งในช่วง
02:22ที่สหรัฐกำลังแข่งขันก
02:23ับจีน
02:24เพื่อขึ้นเป็นผู้นำด้าน AI
02:26ด้านรัฐบาลของปราธนาทิป
02:27ดี Donald Trump
02:28ก็ไม่สนับสนุนการออกกดคว
02:30บคุม AI อย่างเข้มงวด
02:32เพราะมองว่าจะทำให้สหรัฐเสี
02:33ยเปรียบในการแข่งขันครับ
02:35ขณะที่เจนเส้นห่วง CEO ของบริ
02:37ษัท Nvidia ก็ออกมาเตือน
02:39ว่าไม่ควรออกกดโดยอิงจาก
02:41ความเสียงที่ยังเป็นแค่ทร
02:42ิสดี
02:43แต่ควรเน้นปัญหาที่เกิดข
02:44ึ้นจริง
02:45ดังนั้นคำถามสำคัญจึงไม่
02:47ใช่เพียง AI จะเก่งได้แค่ไหน
02:49แต่มนุษย์จะควบคุมพวกมัน
02:51ได้หรือไม่
02:52ในยุคที่ AI มีสักยภาพทัด
02:54เทียมหรือเหนือกว่า
Comments