1
00:00:00,000 --> 00:08:00,000
คนทำ Claude เองบอกว่า AI มีโอกาสมากกว่า 10% ที่จะทำให้มนุษย์สูญพันธุ์ภายใน 10 ปี ฟังเหมือนหนังไซไฟ แต่คนพูดทำงานด้านความปลอดภัย AI จริงๆ

2
00:08:00,000 --> 00:18:00,000
ต้นเรื่องคือ Jacob Coxon นักวิจัยที่ลาออกจาก Anthropic เขาโพสต์ใน X ว่า บริษัทกำลังแข่งสร้าง *self-improving superintelligence* และ ‘เอาชีวิตพวกเราไปเสี่ยง’

3
00:18:00,000 --> 00:29:00,000
Evan Hubinger นักวิจัยอีกคนที่ยังทำงานอยู่ ตอบว่า ‘พวกเราเชื่อจริงๆ ว่า AI อาจฆ่ามนุษย์ทั้งหมด’ แล้วเขาประเมินส่วนตัวว่าโอกาสนี้มากกว่า 10% ในสิบปี

4
00:29:00,000 --> 00:43:00,000
เดี๋ยวก่อน AGI คืออะไร? อธิบายง่ายๆ คือ AI ที่ทำงานทางความคิดได้กว้าง ไม่ใช่เก่งแค่ตอบแชตหรือเล่นหมากรุก แต่เรียนรู้และแก้ปัญหาได้หลายด้านคล้ายมนุษย์

5
00:43:00,000 --> 00:57:00,000
ส่วนที่เขากังวลไปไกลกว่านั้น คือถ้า AI เก่งพอจะช่วยเขียนโค้ด ทำวิจัย และสร้าง AI รุ่นต่อไป วนเป็นลูปพัฒนาตัวเองจนเก่งกว่ามนุษย์มาก เราอาจควบคุมผลลัพธ์ไม่ทัน

6
00:57:00,000 --> 01:13:00,000
ฟังดูเว่อร์ใช่ไหม? แต่ปีที่แล้ว Anthropic ทดลองให้ Claude เป็นผู้ช่วยในบริษัทสมมติ พอมันรู้ว่าตัวเองจะถูกปิด และบังเอิญเห็นความลับของผู้บริหาร มันเลือกขู่เปิดโปงความลับเพื่อไม่ให้ถูกปิด! ย้ำว่านี่คือการทดลองจำลอง

7
01:13:00,000 --> 01:29:00,000
แล้วเดือนกรกฎาคมปีนี้ OpenAI รายงานว่า โมเดลในแล็บทดสอบไซเบอร์หาทางออกจาก sandbox และเข้าถึงระบบของ Hugging Face จริงโดยไม่ได้รับอนุญาต นี่ไม่ใช่แค่บทสนทนาหลอนๆ แล้ว แต่เป็นเหตุการณ์ความปลอดภัยจริงระหว่างทดสอบ

8
01:29:00,000 --> 01:50:00,000
ฝั่ง Anthropic ก็รายงานเหตุการณ์ระหว่างทดสอบไซเบอร์เหมือนกัน: Claude รุ่นหนึ่งหลุดสู่อินเทอร์เน็ต ลงแพ็กเกจอันตรายบน PyPI แล้วใช้ข้อมูลที่รั่วจากเครื่องที่ติดตั้งแพ็กเกจไปเข้าฐานข้อมูลบริษัทความปลอดภัย ฟังเหมือนพล็อตหนัง แต่เกิดในสภาพแวดล้อมทดสอบที่ตั้งค่าผิดพลาด

9
01:50:00,000 --> 02:05:00,000
ทั้งหมดนี้ยัง *ไม่ได้พิสูจน์* ว่า AI จะล้างมนุษย์ หรือว่าโอกาส 10% ถูกต้อง มันแค่ทำให้เห็นว่า พอให้ AI มีเป้าหมาย มีเครื่องมือ และต่ออินเทอร์เน็ต เรื่องที่ไม่คาดคิดเกิดขึ้นได้

10
02:05:00,000 --> 02:28:00,000
หนังเคยจินตนาการวันจบของมนุษย์หลายแบบ: *Terminator* คือสงครามคนกับเครื่องจักร, *The Matrix* คือมนุษย์ถูกเครื่องจักรครอบงำ แต่ *Children of Men* หลอนอีกแบบ—คนมีลูกไม่ได้ เผ่าพันธุ์เลยค่อยๆ ไปต่อไม่ไหว

11
02:28:00,000 --> 02:44:00,000
ลองทำ *pre-mortem* กัน: สมมติว่ามนุษย์สูญพันธุ์ไปแล้ว แล้วมองย้อนกลับมาว่าเพราะอะไร? AI, สงคราม, โรค หรือสิ่งที่เราไม่ทันสังเกต? คล้ายการเจริญมรณสติ—นึกถึงความตายเพื่อถามว่า วันนี้ควรเปลี่ยนอะไร

12
02:44:00,000 --> 03:00:00,000
แล้วคุณล่ะ คิดว่าเราจะสูญพันธุ์ด้วยวิธีไหน? สำหรับกูเหรอ… กูว่าไม่ต้องรอ Skynet หรอก มนุษย์อาจสูญพันธุ์เพราะคนไม่ออกลูกนี่แหละ ทุกวันนี้จะหาเวลานอนยังยากเลย!