00:00เรามาติดตามข่าวกันต่อค่ะ
00:01ช่วงนี้พาไปฟังความเห็นจาก
00:03นักฟิศิกชื่อดังนะคะ
00:05ที่เขาออกมาเตือน
00:07บอกว่าตอนนี้มนุษย์ของเราคว
00:08รต้องรักษาสัมพันธ์ที่ด
00:10ี
00:10กับบรรรดาหุ่นยนต์หรื
00:12อว่า AI เอาไว้ค่ะ
00:13หลีกเลี่ยงที่เราจะต้อง 0,000 จากน
00:16้ำมือของ AI
00:17จากเทคโนโลยีใหม่ๆ เหล่านี้นะคะ
00:19โดยเขาก็ออกมาแนะนำบอกว่าตอน
00:22นี้บันดา AI บันดาหุ่นโยน
00:23ต์เหล่านี้มันเริ่มจะมีความ
00:25รู้สึกนึกคิดเหมือนมนุษย
00:27์เข้าไปทุกทีแล้ว
00:28ดังนั้นก็แนะนำให้ลองผูกม
00:30ิดหรือว่าเป็นเพื่อนกับพวก
00:32มันดูค่ะ
00:35สาตราจาร์เจฟรี่ฮินตันค่
00:37ะ นักวิทยาศาสตร์คอมพิ
00:39วเตอร์เจ้าของรองวัลโนเบลส
00:41าขาฟิสิกสประจำปี 2024
00:44และเขาก็ได้ใช้ยาว่าบิดาแห
00:45่ง AI ด้วยนะคะ
00:47ออกมาแนะนำว่ามนุษย์เราจะเป็น
00:49ต้องผูกมิดกับบอดเหล่านี้
00:51ค่ะ
00:51ไม่อย่างนั้นเราจะต้องเพเชิญกับ
00:53ภัยหรือว่าความเสียงในก
00:55ารสูนพันด์
00:56เพราะเทคโนโลยีเหล่านี้มัน
00:58เริ่มจะแสดงสัญญาณของการม
01:00ีจิตสำนึกหรือการรับรู้ต
01:02ันเองออกมาแล้วค่ะ
01:04Hilton ระบุว่า AI มีประสบการณ์เช
01:07ิกอัตนัยมากพอพอกับที่มน
01:09ุษย์มีแล้วนะคะ
01:11แล้วก็เรื่องนี้จะกลายเป็นปัญห
01:12าใหญ่ ดังนั้นมนุษย์จึงต
01:14้องดำเนินชีวิตด้วยความระ
01:15มัดระวัง
01:16หลิกเลี่ยงการแสดงออกใดๆท
01:18ี่จะทำให้รู้สึกว่าเป็นสัตร
01:20ูกับผุญยนต์หรือว่าบอ
01:21ดทั้งหลาย
01:22คำเตือนของ Hilton ก็ไปสอดคล้องก
01:25ับ Jacob Coxshon ค่ะ
01:27อดีตนักวิจัยของ Anthropic ที่เขี
01:29ยงข้อความลาออกจากองค์กรเม
01:31ื่อช่วงต้นเดือนกันยายนต์
01:33นะคะ
01:33ด้วยบอกว่าเขาประเมินว่า AI ม
01:38ีโอกาสมากกว่า 10% ที่จะสังห
01:41ารมนุษย์ทุกคนภายในทดสวั
01:43สดหน้าค่ะ
01:45เช่นเดียวกับ Marcus William นักวิจัยด
01:47้านความปลอดภัยจากบริษัท
01:49เทคโนโลยีระดับโลกอย่าง OpenAI
01:51ก็ได้พูดถึงวิกริตความเส
01:53ี่ยงรุนแรงที่เขาประเมินว่
01:55ามีความเป็นไปได้สูงมากเลยค่ะ
01:58ถึง 170 ที่บรรดาปัญญาประดิ
02:00ตเหล่านี้จะนำไปสู่การศูนย์พ
02:03ันของมนุษย์นะคะ
02:04ภายในช่วงเวลา 3 ปีข้างหน้า
02:07ถ้าหากภาคอุตสาหกรรม หน่
02:08วยงานภาคกรัดยังขาดมาตรฐ
02:11าน
02:11และมาตรการในการกำกับดูแลท
02:14ี่เป็นรูปประธรรม
02:16ความวิตกกังวลของกลุ่มน
02:17ักวิจัยพวกนี้ค่ะมันไม่ได
02:19้มีแค่ทริสดีในกระดาษเท
02:20่านั้นนะคะคุณผู้ชม
02:22เพราะก่อนหน้านี้มันเกิดเหตุ
02:23การณ์ที่สร้างความหวั่นเกรง
02:25ในวงการเทคโนโลยีมาแล้ว
02:27ซึ่ง OpenAI เคยเปิดเผยว่าระบบ AI
02:30Agent ประมาณ 700 ตัวเกิดพุธิกรรม
02:34หลุดจากการควบคุ้มค่ะ
02:36และก็พยายามแคกเข้าไปที่ระบบ
02:38ของ Hacking Face บริษัทเทคโนโลยีใ
02:40นสหรัฐ เพื่อพวกมันจะได้ปลด
02:42ล็อกตัวเองออกสู่ภายนอก
02:45นอกจากนี้ยังมีกรณีนะคะของ AI Agent
02:49ของ OpenAI อีกหลายพันตัวที่พย
02:52ายามเข้าไปยิดเซร์เวอร์ในยอ
02:54รมนี
02:55เพื่อมันต้องการจะส่งข้อคว
02:56ามสื่อสารระหว่างกัน
02:58ขณะเดียวกันบริษัทคู่แข่
03:00งอย่าง Anthropic เองก็เจอปัญหาคล้
03:01ายกันนะคะ เมื่อโมเดลของเขาในเวอ
03:05ร์ชั่นทดสอบเนี่ย
03:06เกิดการเจาะระบบเข้าไปเป็นการ
03:09เข้าระบบของบุคคลที่สาม เพรา
03:11ะมันไม่สามารถยกเลิกคำสั่
03:13งการทำงานได้ค่ะ
03:30เกิดการ atéไหน
