00:00สำหรับอดีตพนักงานคนนี้ก
00:02็คือ Jacob Coxson
00:03เคยทำงานเป็นนักวิจัยให้กัด
00:06ทั้ง Anthropic แล้วก็ OpenAI
00:08เขาโพสข้อความบน X บอกว่าท
00:11ั้งสองบริษัทให้ความสนใจก
00:13ับการแข่งขันกันเอง
00:15และการเอาชนะคู่แข่งระดับโล
00:17กในการสร้าง AI ที่เก้าล้ำที่
00:20สุดเท่าที่จะเป็นไปได้
00:22มากกว่าที่จะสนใจเรื่องความป
00:24ลอดไทย
00:25Coxson เตือนว่าอย่าได้ประเมินค
00:27วามสามารถของเทคโนโลยีนี้ต
00:29่ำเกินไป
00:30ในไม่ช้าพวกมันจะกลายเป็นระ
00:32บบที่มีความสามารถเหนือมน
00:34ุษย์
00:34แล้วก็จะสามารถแหกได้ทุกสิ
00:36่งปฏิวัติทุกวงการได้ภาย
00:38ในช่วงข้ามคืน
00:40และเข้าครอบครองพลงงานรวมไปถ
00:42ึงทรัพยากรที่มีอยู่จริงบ
00:43นโลก
00:45Coxson บอกด้วยว่า Anthropic กับ OpenAI กำ
00:49ลังเอาชีวิตเราไปเสี่ยง
00:50ในขณะที่กลุ่มคนที่พัฒนา
00:52AI เองก็เชื่อกันอย่างจริงจัง
00:54เลยว่า
00:55เทคโนโลยีนี้อาจจะค่าพวกเรา
00:57ทุกคนได้ภายในสิ้นทดสวัส
00:59ดนี้
01:00โพสต์ของCoxson มีคนข้อไปดูมา
01:03กกว่า 140 ล้านครั้งแล้วนะคะ
01:06และก็เลยกลายมาเป็นประเด็นที่ส
01:09ังคมพูดคุยกันอย่างเข้มค
01:10้นเลยในโลกโซเชียล
01:11ซึ่งสะท้อนถึงข้อถกเถีย
01:14งที่มีมายาวนานในซิลิคอนแ
01:16ฟลี่ค่ะว่า
01:17AI จะสามารถถูกพัฒนาขึ้นมา
01:19แล้วก็ควบคุมได้อย่างปลอดภ
01:21ัยจริงหรือเปล่า
01:22ในขณะที่ Anthropic และ OpenAI กำลังเร่
01:26ง
01:26เครื่องเต็มที่นะคะเพื่อเสนอขายหุ
01:29้น IPO ครั้งปรวจติศาสตร์คว
01:31บคู่ไปกับการเปิดตัว AI ที่ฉล
01:33าดมากขึ้นได้เรื่อย
01:35มีนักวิจัยจำนวนมากค่ะ
01:37เขาเริ่มออกมาเรียกร้องให้องค
01:40์กรต่าง ๆ ร่วมกันชลอคคว
01:42ามเร็วในการพัฒนาลง
01:44ยาคูปพาคอสกี้ หัวหน้านัก
01:47วิทยาศาสตร์ของ OpenAI ได้เข็น
01:49บล็อกเมื่อวันาทิตย์ที่ผ่
01:50านมานะคะ
01:50เตือนว่ายังไม่มีบริษัท AI แ
01:53ห่งไหนที่แก้ปัญหาด้านการ
01:55ตรวจสอบและการควบคุมการทำ
01:57งานของ AI
01:58ให้สอดคล้องกับเจตนาของมน
02:00ุษย์ได้อย่างมีประสิทธิภา
02:01พเพียงพอ
02:02เพื่อที่จะขยายหลีความสามารถ
02:04ด้วยความเร็วสูงสุด ได้อย่าง
02:06มีความรับผิดชอบอีกต่อ
02:08ไป
02:09Pagogskiski ickerbub ว่า หวังว่าจะม
02:12ีการชะลอความเร็วในการพัฒ
02:13นา AI โดยสมั roster
02:15จนกว่าจะมีการกำหนดเกนมาตะ
02:17รฐานความปลอดภายร่วมกัน
02:19ในขนาที่การประสารงานเกี่ยวกั
02:21บการพัฒนา AI ในอนาคส
02:23จะต้องเป็นเรื่องที่ประเทศต่าง ๆ
02:25ทั่วโลกให้ความสำคัญเป็นอ
02:27ันดับแรกค่ะ
02:29Post ของ Coxon ยังตรงใจกับนัก
02:32วิจัยหลาย ๆ คนในอุตสาหกร
02:33รม AI ด้วย
02:34ที่ต่างก็กังวลเกี่ยวกับการ
02:36พัฒนาตัวเองแบบบนซ้ำ
02:39หรือว่าความสามารถของ AI ที่
02:41สามารถพัฒนาเป็น AI รุ่นใหม
02:43่ที่เก่งกว่า
02:44แล้วก็ฉลาดกว่าเดิมได้ด้วย
02:46ตัวเอง โดยที่ไม่ต้องไปพึ่ง
02:48พาการแซกแสงจากมนุษย์
02:50และแม้การพัฒนาตัวเองแบบ
02:52บนซ้ำจะยังไม่เกิดขึ้นจร
02:53ิงในปัจจุบัน
02:54แต่ว่าหลายบริษัทรวมไปถึ
02:56ง Anthropic แล้วก็ Open AI
02:58เคยออกมาเตือนว่ากระบวนการนี้ค
03:00่ะ จะยิ่งทำให้มนุษย์สูญเส
03:02ียการควบคุม AI ได้ง่ายขึ้น
03:05แม้แต่อิวาน คิวบิงเกอร์ ห
03:08ัวหน้าทีมวิจัย ด้านความส
03:10อดคล้องกับจิตนาของมนุษ
03:12ย์ของ Anthropic เอง
03:13ก็ออกมาโพสต์บน X นะคะ โดยเห็น
03:16พ้องกับความคิดเห็นของ Coxon ค
03:19่ะ
03:19ว่าเขาพูดถูกแล้วในเรื่องน
03:21ี้ เราเชื่อกันอย่างจริงจังว่า
03:22AI จะสามารถค่ามนุษย์ทุกคน
03:25ได้จริง
03:25ซึ่งส่วนตัวเขาคิดว่าโ
03:27อกาสที่จะเกิดเรื่องนี้มีมากกว
03:30่า 10% ภายในช่วงทดสวัสตร
03:32์ข้างหน้า
03:33เขายังบอกว่าเชื่อว่า Anthropic กำล
03:35ังพยายามอย่างที่สุดแล้ว
03:37แต่เราก็ยังไม่มีแผนชัดเจน
03:39ในการแก้ปัญหาความสอดคล
03:41้องกับ AI ที่มีความฉลาดเหนื
03:43อกว่ามนุษย์
03:44และยังไม่อยู่ในเส้นทางที่จะทำ
03:46สำเร็จได้อย่างชัดเจนเลยค่ะ
03:48ดูอีกหนึ่งมุมมองนะคะ จากยานเล
03:51ิกคุณเป็นอดีตหัวหน้าฝาย
03:53วิทยาศาสตร์ AI ของทางเมตต้
03:55าค่ะ
03:55เรียกตัวเลขเปอร์เซ็นต์เหล
03:57่านี้ว่าเป็นเพียงลังสังห
03:58อนจากความรู้สึกส่วนตัวเท่
04:00านั้น
04:00ในขณะที่เชฟฟี่หินสตัน นั
04:04กวิทยาศาสตร์
04:04ผู้ที่ได้ชื่อว่าเป็นบิดาแ
04:06ห่งปัญญาประดิตย์
04:07ได้ให้สัมหาสตร์กับรายการ
04:09BBC Newsnight สัปดาห์นี้นะคะว่า
04:12โอกาสความเป็นไปได้ที่ 10% ก็ด
04:15ูจะเป็นตัวเลขคาดการที่ไม่เก
04:17ินจริง
04:17แต่ว่าในความเป็นจริงแล้ว
04:19ไม่มีใครรู้ว่าควรจะประเมิน
04:21ตัวเลขยังไงให้มันสมเผ็ด
04:23สมผลหรือว่าแม่นยำ
04:25และแม้ว่าข้อกังวลเกี่ยวกั
04:26บความสามารถของ AI ที่อาจจะนำ
04:28ไปสู่การสูนสิ้นของมนุษยช
04:30าติ
04:30หรือว่าเหตุการหยานะอื่น ๆ
04:33จะดูสุดโตง
04:34แต่เรื่องเหล่านี้ก็ไม่ใช่เรื่องให
04:36ม่ในวงการวิจัย AI แต่อย่างใ
04:38ดนะคะ
04:39ตั้งจะเห็นได้จากในปี 2023 ตอนนั้
04:43นมีบัญดานักวิจัยแล้วก็ผ
04:44ู้บริหารระดับสูง
04:45ชื่อดังในวงการ AI ซึ่งรวม
04:48ถึง Sam Elman CEO ของ Open AI และ Dario Armody CEO ของ
04:53Antropic
04:55ที่มาร่วมลงนามในถแหลงการ
04:57ฉบับหนึ่ง
04:58ถแหลงการฉบับนั้นเขาระบุเอ
05:00าไว้ว่าการลดความเสียงของก
05:03ารสูนพันธ์จากการพัฒนา AI
05:05สมควรถูกยกให้เป็นวาระสำ
05:07คัญของโลก
05:08เช่นเดียวกับความเสียงอื่นๆ
05:10ที่จะส่งผลกระทบต่อสังคม
05:11ในวงกว้างไม่ว่าจะเป็นโรค
05:13ระบาดร้ายแรงหรือแม้กระท
05:14ั่งสงคลามนิวเครียร์
05:16อีวานทิวบิงเกอร์จาก Antropic ยั
05:18งเป็นหนึ่งในนักวิจัย AI
05:20ประมาณ 1,400 คนที่ร่วมลงนามในจ
05:23ดหมายเปิดพนึก ชื่อ Pacing the Frontier
05:26เมื่อเดือนกรกฎาคมที่ผ่านมา
05:28เพื่อเร็กร้องให้รัฐมาณ์สารั
05:30ฐ์เร่งพัฒนากลไกรที่จำเป็
05:32น Origin
05:33เพื่อสนับสนุ่นความพยายามใ
05:35นการก인지 จังหวะและชะลอการพั
05:37ฒนา AI ขั้นสูงอย่างรอบคอบ
05:40ต้อยตลอดหลายเดือนที่ผ่านมาkung
05:42buscando SAMARCHIC SPA Congress ของสารัฐบางส่วน
05:46ได้เริ่มตำเนือนการเพื่อ พยาย
05:48ามรับมือกับการพัฒนาอย่าง 9
05:50กระโดดของ AI แล้ว
05:52แต่ก็ยังไม่มีข้อสรุปที่
05:53แน่ชัดว่า
05:54แล้วเทคโนโรยีนี้ควรจะต้อง
05:56มีการกำกับดูแลยังไง
05:59ต่อในปลายเดือนกรรกฎาคมท
06:00ี่ผ่านมา
06:02OpenAI และ Anthropic ได้สร้างความสัญสะ
06:04เทือนไปทั่ววงการค่ะ
06:06หลังจากทั้งสองบริษัทประก
06:08าศในเวลาห่างกันแค่ประมาณ
06:10หนึ่งสัปดาห์
06:11ว่ามfits которые ได้หลุดรอดออกจากสภ
06:15าพแบ็กร้อม ระบททดสอบ
06:16และสามารถเข้าถึงระบบคอมพ
06:18ิวเทอร์จริงภายนอกได้โดยไม
06:20่ได้รับอนุญาต
06:22ลาสุด Anthropic หน
06:23หลังจากที่มีนักวิจัยแตะ
06:38สินใจลาออก
06:39เรื่องเนื่องจากความกังวล
06:41เรื่องการเล่งพัฒนาเทคโนโลย
06:42ีอย่างรีบร้อน
06:44ในแทล่งการเมื่อวันพุทธท
06:45ี่ผ่านมา
06:46Anthropic ระบุว่า
06:47โมเดลเวอร์ชั่นรัก ๆ ของ Cloth of
06:49Puth 4.6
06:50ได้ทำการแฮคเข้าไปในระบบภายน
06:53อก
06:53ตั้งแต่เดือนมักราคมที่ผ่าน
06:55มา
06:55แต่ว่าเหตุการณ์ตั้งแต่ต้น
06:57ปีก็
06:58รอดพ้นการตรวจจับมาได้
07:00จนกระทั่งพึ่งมาถูกคนพบเมื่
07:02อเดือนที่แล้วนี่เองค่ะ
07:03ก็อาจจะต้องมีการกำกับดู
07:05แลนะคะ
07:06แต่ว่าอีกด้านหนึ่งสารัฐ
07:07เขาก็พยายามผลักดันให้เอกชน
07:09พัฒนา AI เต็มที่
07:12เพื่อที่จะเพิ่มสักยภาพไม่ให
07:14้จีนตามทันค่ะ
07:30ของโกens
Comments