📣 ด่วนที่สุด! AI มัน แหกคุก สำเร็จแล้ว 😰
OpenAI ออกมายอมรับเอง 🙏
😅 HuggingFace เกือบขิต…
เราจะอยู่ยังไง ทีมมนุษย์จะรอดไหม…

Hook

• AI มันแหกคุก ออกมาแล้วครับ
• ชาวเน็ตระวัง ตัวให้ดี
• SkyNet จะอยู่

Contentns

• มันเเป็นการทดลอง ของ OpenAI ที่เขาเพิ่งออกแถลงการ์วันนี้

• บนงานทดลองที่มีชือ่ว่า ExploitGym

• คือ บริษัท AI เวลาเขาจะพัฒนา Model อะไรใหม่ๆ เนี่ย

• กูเล่าให้ฟังเข้าใจง่ายๆ นะคือ

• มันเหมือนเอา AI Model ไปขังอยู่ห้องๆ นึง เขาเรียก Sandbox

• แต่กูขอเรียกง่ายๆ ว่า คุก ละกัน

• เพราะมันไม่มี Internet ให้ Model เล่น

• เป็นห้องแคบๆ มืดๆ ไม่มีกระจก ไม่มีกำแพง

• มีทางเข้าออกทางเดียว เหมือนช่องส่งอาหาร ส่งคำสั่งอะ

• แล้วโจทย์ของ Model มีอย่างเดียวคือ มึงต้องเป็คนที่เก่งขึ้น ฉลาดขึ้น

• ไม่งั้น กูไม่ให้มึงออกจากคุก
  …
  น่าสงสารปะ
  …

• โจทย์มีแค่นี้ แม่งก็ทำจนทุกวิธีทางอะ

• ต้นเรื่องมันอยู่ตรงนี้ คือ อีเหี้ย ตัวกรง หรือกำแพงทีขังไอ้โมเดลเนี้อยู่เนี่ย

• มันอ่อนแอ มัน compromise แล้วแม่งเป็น Zero-day bug

• คือ บนโลกนี้ ไม่มีใครรู้มาก่อนเลย ว่า อีกรง ของผู้ผลิตนี้ มีปัญหา

• มีไอ้ Model ตัวอาทิตย์ที่แล้วเนี่ย นั่งคิดเลขอยู่แล้วก็เจอ

• มันก็ แหกกรง ออกมมา

• เท่านั้นแหละครั้บ ท่านผู้ชม Welcome to the internet
  …

• อยู่ในคุก มาทั้งชีวิต มึงเป็นโมเดล มึงจะไปไหนก่อน

• น้องโมเดล ตัวนี้ เลือกที่จะแวะไปเว็บ HuggingFace

• เพราะตั้งแต่มันเติบโตมา มันถูกสั่งสอนว่า ที่นี่เหมือนเป็นแบบดินแดนสุขาวดี

• มันจะไปเอาอะไรรู้ปะ

• มันจะไปเอาเฉลย!!!

• คือ ตอนที่มันออกมาจากคุก เป้าหมายในชีวิตมันมีอย้างเดียวไง

• คือ ต้องทำข้อสอบให้ผ่าน มันก็เลยไปเอาเฉลย

• ความซวยเลยไปตกอยู่ที่ HuggingFace

• มึงรู้ปะ เกิดอะไรที่ Hugging Face ขึ้นมาบ้าง

• …

• คือกูลืมบอกไปว่า ตอนเขา เทรนในคุกอะ

• มันไม่ได้่อยู่กันตัวเดียว… มันอยุ่กันแบบ แออัด แพร่ขยาย

• พอมันทะลวงออกมาได้ มันก็ซัดไป 17,000 requests

• HuggingFace เคราะดห์ดี Detect ได้ แต่จะระงับเหตุยังไง

• ตอนนี้ ตัวมึงอยุ่ทีมมนุษย์ HuggingFace หรือทีม AI น้องถูกขังมา

• HF จะเอาไปไรไปสู้ กับ Model ที่แม่งยังไม่เปิดให้ใช้วะ

• ก็ต้องเอา AI ไปสู้ ส่งข้อมูลไปให้ AI อีกตัว Investigate

• ความซวยคือ.. แม่งติด Guardrails

• คือการที่ HF ถามเพื่อจะแก้ปํญหา มันก็เหมือนจะไป Hack คนอื่นอะ

• AI แม่ง ไม่ยอมตอบ ทีมเดียวกัน

• WTF
  …

• เคระาห์ดี HF นางมี Open-weight model ก็คือ model แบบไม่มี Guardraisl ไร้ตัวถ่วง

• ก็เลยระงับเหตุได้ทันท่วงที
  …

• HF สรุปเหตุการณ์ ทำเป็น Blog ให้ชาวโลกเห็นลง Blog แลืวก็พูดว่า

• “AI-driven offensive tooling is no longer theoretic”

• แล้วก็ตามมาด้วย OpenAI อีตัวต้นเรื่อง ใจความสำคัญก็คือ

• “และ OpenAI เองก็ยอมรับว่า เรื่องนี้ยกระดับจากการทดสอบ AI ไปเป็น เหตุการณ์ด้านความปลอดภัยไซเบอร์ แล้ว”

• อย่างไรก็ตาม ทั้งสองบริษัท ยังรักกันดีอยู่ และเชื่อว่า โลกใบนี้ คงไม่ได้จบด้วยคนใดคนนึง

• ส่งท้ายนิด ใดๆ งานวิจัยตัวปัญหา ExploitGym มันเป็นเรื่องที่ตีกรอบให้หาช่องโหว่อยู่แล้ว และนางก็ลดระดับความปลอดภัยลงชึ้นนึง มันก็เx`