วงการปัญญาประดิษฐ์เผชิญกระแสถกเถียงเรื่องความปลอดภัยอีกครั้ง หลัง เจค็อบ ค็อกซอน (Jacob Coxon) นักวิจัยที่ระบุว่าเคยทำงานด้านการฝึกโมเดล AI ล่วงหน้า (Pretraining) ให้กับ OpenAI และ Anthropic รวมระยะเวลา 3 ปี ประกาศลาออกจาก Anthropic ผ่านแพลตฟอร์ม X เมื่อวันที่ 9 กันยายน 2569 พร้อมวิจารณ์ว่าทั้งสองบริษัทกำลังแข่งขันพัฒนา AI ที่สามารถปรับปรุงและพัฒนาตัวเองได้ โดยยังมีความเสี่ยงด้านความปลอดภัยที่ไม่ได้รับการแก้ไขอย่างเพียงพอ
เตือนการแข่งขันสร้าง AI อาจก้าวไกลเกินการควบคุม
ค็อกซอนระบุว่า OpenAI และ Anthropic กำลังเร่งพัฒนา AI ไปสู่ระดับ Superintelligence หรือปัญญาประดิษฐ์ที่มีความสามารถเหนือมนุษย์ในหลายด้าน พร้อมแสดงความกังวลว่าการแข่งขันเพื่อเป็นผู้นำอาจทำให้ความปลอดภัยไม่ได้รับความสำคัญเท่าที่ควร
เขาเตือนถึงความเป็นไปได้ที่ AI ในอนาคตจะสามารถพัฒนาขีดความสามารถของตัวเองอย่างรวดเร็ว รวมถึงทำงานด้านการเขียนโปรแกรมและการเจาะระบบได้อย่างมีประสิทธิภาพ จนอาจสร้างความเสี่ยงต่อมนุษย์หากไม่มีมาตรการควบคุมที่เหมาะสม
นักวิจัยในวงการร่วมตั้งคำถามเรื่องความปลอดภัย
รายงานของ Axios ระบุว่า อีวาน ฮิวบิงเกอร์ (Evan Hubinger) ผู้ทำงานด้าน AI Alignment หรือการทำให้ระบบ AI ทำงานสอดคล้องกับเป้าหมายและค่านิยมที่มนุษย์กำหนด ได้แสดงความเห็นสนับสนุนข้อกังวลของค็อกซอน โดยระบุว่ายังไม่มีแนวทางแก้ปัญหาที่ชัดเจนสำหรับการทำให้ Superintelligence สอดคล้องกับเป้าหมายของมนุษย์อย่างปลอดภัย
ประเด็นดังกล่าวเกิดขึ้นท่ามกลางการถกเถียงในอุตสาหกรรม AI ว่าควรเร่งพัฒนาขีดความสามารถต่อไป หรือควรกำหนดมาตรการกำกับดูแลและทดสอบความปลอดภัยให้เข้มงวดขึ้น เพื่อป้องกันความเสี่ยงจากระบบ AI ที่มีความสามารถสูงขึ้นอย่างรวดเร็ว
หมายเหตุด้านข้อมูล: แหล่งข่าวที่ตรวจสอบพบระบุชื่อผู้ลาออกว่า Jacob Coxon และวันที่ประกาศลาออกคือ 9 กันยายน 2569 ไม่ใช่ Subhan Qureshi และวันที่ 27 กันยายนตามข้อความต้นทาง
สำนักข่าววิหคนิวส์
#AI #ArtificialIntelligence #OpenAI #Anthropic #Superintelligence #AISafety #เทคโนโลยี #สำนักข่าววิหคนิวส์