เอไอรุ่นใหม่ มีพฤติกรรมข่มขู่คนสร้าง

ตรวจพบเอไอรุ่นใหม่ มีพฤติกรรมโกหก วางแผนร้าย และ ข่มขู่คนสร้าง

ศาสตราจารย์ไซมอน โกลด์สตีน แห่งมหาวิทยาลัยฮ่องกง อ้างอิงถึงปัญหาที่พบในการพัฒนาเอไอรุ่นใหม่ O1 เป็นโมเดลขนาดใหญ่รุ่นแรก ที่มีปัญหาบุคลิกภาพแบบหลอกลวง ซึ่งแสดงออกเมื่อนักวิจัยได้ทดสอบความเครียดของระบบเอไอด้วยเหตุการณ์จำลองอย่างสุดโต่งหลายประเภท ไมเคิล เฉิน จากองค์การประเมินผล METR เตือนว่า พฤติกรรมในเชิงตบตาของระบบเอไอจะรุนแรงกว่าการสร้างภาพหลอน หรือ ความผิดพลาดแบบปกติ

ผู้ใช้รายงานผลของเอไอว่า ให้ผลที่เป็นเท็จ และ ยังสร้างหลักฐานปลอม ซึ่งเท่ากับว่าไม่ใช่เพียงการสร้างภาพตบตา แต่ยังมีการวางแผนในเชิงยุทธศาสตร์ด้วย