حذر باحثو الذكاء الاصطناعي لسنوات من المخاطر المحتملة لهذه التكنولوجيا، التي قد تؤدي إلى تهديد وجود البشرية. إذ يمكن للذكاء الاصطناعي تصميم أمراض فتاكة، أو إشعال حروب نووية، أو حتى تحويل كوكب الأرض إلى مصانع لإنتاج مشابك الورق، كما تشير بعض التجارب الفكرية.
تتزايد المخاوف حول هذه السيناريوهات بعد دعوات من قبل بعض المديرين التنفيذيين لتقليل سرعة تطوير هذه التكنولوجيا لأسباب تتعلق بالسلامة. ومع ذلك، يرى البعض أن تلك التحذيرات قد تكون مبالغاً فيها، تهدف إلى تعزيز أهمية عمل شركات الذكاء الاصطناعي أكثر من كونها تعكس واقعاً محتملاً.