การประชุมสุดยอดเอไอสืบเนื่องจากการประชุมด้านความปลอดภัยของเทคโนโลยีเอไอทั่วโลกที่เบลทช์ลีย์ พาร์ก ที่อังกฤษเมื่อปีที่แล้ว ซึ่งหลายประเทศแสดงความวิตกต่อบริษัทพัฒนาเอไอ ถึงความปลอดภัยในการใช้เอไอของบริษัทเทคยักษ์ใหญ่ รวมทั้ง บริษัทโอเพนเอไอ ผู้พัฒนาแชตจีพีที ดีปไมนด์ของกูเกิล มิสตรัลของฝรั่เงศส ไมโครซอฟต์ และ แอนโธรพิก
นักเคลื่อนไหวเพื่อสิทธิมนุษยชน และ อีกหลายประเทศกังวลว่า เอไอจะถูกนำไปใช้ในทางที่ผิด รวมทั้งหาประโยชน์ในการลงคะแนนเสียงเลือกตั้ง ด้วยการส่งผ่านข้อมูลที่เป็นเท็จ หรือ ดีปเฟค ที่ปลอมภาพและวิดีโอของนักการเมือง