00:00การแฟกระบบครั้งนี้เกิดขึ้น
00:02ในวันที่ 18 มิธุนายนฝีมือ
00:04ของ Agent AI ตัวหนึ่งของข้าย Open AI
00:07บริษัทด้านปัญญาประดิทธ
00:08์ ผู้อยู่เบื้องหลัง Chat GPT
00:10Agent AI ก็คือระบบ AI ที่สามารถรั
00:13บคำสั่ง และค้นข้อมูล ตัด
00:15สินใจ
00:15และลงมือทำงานบังอย่างได้ด้
00:17วยตนเอง โดยไม่ต้องมีมนุษย
00:19์คอยสั่งทุกขั้นตอน
00:21จากการเปิดเผยของนายกรัฐมุต
00:23รี Anthony Albanese ของ Australia
00:26Agent AI ดังกล่าวได้รับคำสั่
00:28ง ให้ค้นหาคำตอบเกี่ยวกับก
00:30ารใช้จ่ายด้านสุขภาพใน Australia
00:33มันจึงค้นข้อมูลผ่านระบ
00:34บออนไลน์ และไปพบเว็บไซต์ ร
00:36ายงานสถิติของ Medicare
00:42หรือโครงการหลักประการสุข
00:43ภาพทั่วนหน้าของรัฐบาล Australia
00:46จากนั้น Agent AI ได้หาทางหลกเลี่ยง
00:49ข้อจำกัดของเว็บไซต์
00:51และแทกซึมเข้าถึงข้อมูล
00:52ส่วนบุคคลที่ไม่ควรเข้าถ
00:54ึงได้
00:55แต่เคราะดีที่ยังไม่ใช่ข้อ
00:56มูลลับเฉพาะ และไม่ใช่ประวั
00:58ติการรักษาของผู้ป่วยรายบุ
01:00คคล
01:01ทาง OpenAI ยอมรับเขาว่าเวริษั
01:04ทพึ่งจะทราบว่าเกิดการแฮ
01:05กระบบขึ้นในเดือนสิงหาคม
01:15จึงได้ส่งอีเมลแจ้งเตือนไป
01:18อย่างอินโบอคซกลางของรัฐบ
01:20าลอสไตlan australia
01:21โดยไม่ได้ส่งหาจ้อนที่หรื
01:23อหน่วยงานที่เกี่ยวค้องโดยตร
01:24ง
01:25จึงไม่มีใครเห็นอีเมลฉบับ
01:26นั้ณนนานถึง 5 วันก่อนที่เรื่
01:29องจะแดง
01:29และมีการส่งต่อไปยังพูดเช
01:31ี่ยวชาญด้านความตอดภัยทาง
01:33ไซเบอร์ของออสเตรเลีย
01:34ในวันที่ 10 กันยายน
01:36ผู้นำออสเตรเลีย ซึ่งตัดส
01:38ินใจเปิดทะแหลงข่าวเรื่อง
01:40นี้
01:40ระหว่างภารกิจการเยือนครนิวอย
01:42่อคของสหรัฐ
01:43เพื่อร่วมการประชุมสมัสชาย
01:44ใหญ่ UN
01:45แสดงความกังวล และผิดหวั
01:47งต่อวิธีการรับมือของ OpenAI
01:49ค่ะ
02:17บันดานควิเคราะห์เห็นด้วย
02:19ในเรื่องนี้
02:19ทั้งประเด็นความล่าใช้ของ OpenAI
02:21ซึ่งใช้เวลาเกือบ 3 เดือนในก
02:24ารตรวจพบ
02:24รวมถึงการที่บริษัทเลือกจะ
02:26แจ้งเรื่องสำคัญผ่านทางอีเม
02:28ล
02:29รัฐบาลออสเตรเลียระบุว่าน
02:31ี่ไม่ใช่ครั้งแรกที่ระบบของรั
02:33ฐถูกแหกโดย AI
02:35แต่เมื่อดูจากประวัติความหล
02:36ะหลวมด้านความมั่นคงตลอด
02:38ภายทางไซเบอร์ของออสเตรเลีย
02:40ในช่วงที่ผ่านมา
02:41นี่อาจไม่ใช่ครั้งสุดท้ายที่
02:43ระบบของออสเตรเลียจะถูกแหก
02:45โดย AI
02:47เท่าที่เรารู้ในตอนนี้การจมตี
02:49ทางไซเบอร์ที่ดำเนินการโด
02:51ย Agent AI ยังเกิดขึ้นน้อยมาก
02:53แต่ทั้งนี้ทั้งนั้นส่วนใหญ่
02:55ก็ขึ้นอยู่กับว่าบริษัท
02:56ต่าง ๆ จะยอมเปิดเผยข้อมูลเ
02:59องหรือไม่
03:00ก่อนหน้านี้ในเดือนกรกฎาคมท
03:02ี่ผ่านมา Agent AI ของ Open AI เคยหลุดการค
03:06วบคุมระหว่างการทดสอบ
03:07และลักรอบเจาะระบบภายในของ
03:10Hacking Face vs Startup ด้านเทคโนโลยีมาแล้
03:13ว
03:13จักหลักการทำงานจะเห็นว่า Agent
03:16AI ตัดสินใจเลือกวิธีที่ดี
03:18ที่สุดเพื่อให้งานสำเร็จ
03:20โดยไม่สนใจกดเกน ข้อจำกั
03:22ด ไม่สนว่าต้อง 6x หรือใช้ก
03:24ลโกง
03:25และมันจะไม่ค่อยมานั่งพิจารณ
03:27า ถึงผลกระทบที่จะตามมาเหมือน
03:30ที่มนุษย์ธรรม
03:31ซึ่งคนในวงการเรียกสิ่งน
03:33ี้ว่า Misalignment หรือภาวะที่ Model AI
03:37ทำสิ่งที่ไม่ตรงกับเจตนาจ
03:40ริง ๆ ของคนสร้างหรือคนใช้งาน
03:42ค่ะ
03:43เรื่องนี้กำลังเป็นปัญหาใหญ
03:45่ เพราะเป็นรากฐานสำคัญของก
03:47ารสร้าง AI ให้ปลอดภัย
03:49แม้ว่าบริษัทต่าง ๆ จะพยาย
03:51ามสร้างระบบป้องการเอาไว้
03:53แต่กรณีที่เพื่องเกิดกับรัฐ
03:55บาลอสเตรีลีย์ พิสูตรให้
03:57เห็นแล้วว่าอาจยังไม่เพีย
03:59งพอ
04:00ดอกเตอร์ Hamon Pierce อาจารย์อาวุโ
04:02ซ จากสถาบันความมั่นคงตรอ
04:04ดภัย Cyber แห่งมหาวิทยาลัย
04:06New South Wales
04:07ให้สัมภาษณ์กับ BBC ว่า การจ
04:09มตีทาง Cyber ในลักษณะนี้มีแน
04:12วโน้มที่จะถวีความรุนแรง
04:13และเกิดบ่อยครั้งขึ้น
04:15จึงหวังว่าเหตุการณ์นี้จะ
04:17เริ่มส่งสัญญญาณตื่นภัย
04:18ไปยังรัฐบาลต่าง ๆ ทั่วโลก
04:21ขณะนี้เริ่มมีเสียงรีกร้
04:23องให้บริษัทต่าง ๆ สร้างระบบ
04:25ที่สามารถปิดการทำงานเทคโนโ
04:27ลยีของตนเองได้
04:29แนวคิดหนึ่งที่ได้รับการส
04:31นับสนวนจากบริษัท AI และผู้
04:33ออกกฎหมายคือ Q-Switch
04:35หรือวิธีที่จะสั่งปิดเทคโ
04:37นโลยีนี้ได้ทันทีเมื่อเกิด
04:39วิกริจ
04:40โดยมีรายงานว่า OpenAI กำลังพ
04:43ัฒนาเครื่องมืออัตโนมัติ
04:44ที่สามารถสั่งปิดระบบของตั
04:46วเองได้หากมีความจำเป็น
04:48แต่ผู้ชีวชาญบางส่วนมองว่
04:50า แนวคิดเรื่อง Q-Switch ยังเป็น
04:52ไปได้ยากในความเป็นจริง
04:54ไม่ใช่ว่า สับคัดอาวตแล้ว
04:56AI ทุกอย่างจะดับไปเนื่องจากระบ
04:59บ AI
05:00เชื่อมต่อกับโครงสร้างพื้น
05:01ฐานขนาดยักษ์ไปทั่วโลกแล้
05:03ว
05:04ที่ผ่านมา ระบบ AI ของ OpenAI, Anthropic และ Google
05:08ต่างเคยถูกตรวจพบว่า ทำการ
05:10แหกเว็บไซต์ต่าง ๆ มาแล้วหล
05:12ายแห่ง
05:13คำถามสำคัญคือ จะมีใครที่ต
05:15้องเป็นผู้รับผิดชอบต่อเร
05:17ื่องนี้หรือไม่
05:18หลายคนมากคิดว่าระบบ AI นั้นเห
05:21มือนกับมนุษย์
05:22อาจมาจากความรู้สึกที่ได้แช
05:24ตคุยกับมัน
05:25และวิธีคิดแบบนี้เอง ที่ทำให
05:27้เรามองข้ามความรับผิดชอบ
05:29ของบริษัทที่เป็นผู้สร้างระ
05:30บบหล่านี้ไปด้วย
05:32ขณะที่กฎหมายของ Australia กำหนดให้การ
05:35กออาจยากรรมต้องมีเจตนาจ
05:37งใจ
05:38ในระดับหนึ่ง โดยบุคคลผู้
05:40กระทำผิด
05:41ฉะนั้น การที่ AI ทำเกินคำสั่งเท
05:44่ากับผู้สร้างอาจไม่มีเจตน
05:46า
05:47ในขณะเดียวกัน ระบบ AI ก็ขาด
05:49สถานะความเป็นบุคคลตามกฎหม
05:51ายที่จะถูกตั้งข้อหา
05:53นั่นทำให้การกระทำของ AI ถูกมองว
05:56่า
05:56เป็นสิ่งที่อยู่นอกเหนือการคว
05:58บคุม เช่นเดียวกับภัยธรรม
06:00ชาติ
06:00สุดท้าย จึงไม่มีการเอาผิด
06:02กับผู้สร้าง ผู้ดูแลระบบ
06:04หรือผู้ใช้งานระบบเหล่านี้ ยั
06:07งไรก็ตามค่ะ รอบนิโคลส ผู้
06:09เชียวชาญด้านการกับกับดู
06:11แล AI ชาวออสตรีเลีย
06:12ก็ยังเชื่อว่า ผู้สร้างเอเจน
06:15ต์ AI จะต้องเป็นผู้รับผิดชอ
06:17บเมื่อระบบทำงานไม่สอดพร้องก
06:19ับคำสั่ง
06:34from one of the elements that possibility has been created and accepted by the person who created the agents.
06:39So that responsibility lies with the creative creator of the agents, not on anybody else.
06:46It's no good to say that you and I robot did it not me
06:54การลูกการลูกการลูกการลูก
