رغم الآمال التى يعقدها البشر على الذكاء الاصطناعى لإنتاج مضادات حيوية وأدوية مكافحة للعدوى الوبائية مثل كوفيد - 19، يحذر باحثون من إمكانية إساءة استخدام خوارزميات الذكاء الاصطناعى لتصميم أسلحة كيميائية وبيولوجية خطيرة تهدد حياة المليارات فى وقت قصير، حيث وجد أربعة علماء فى «المعهد الفيدرالى السويسرى للحماية النووية والبيولوجية والكيميائية» أنه يمكن التلاعب بتقنيات الذكاء الاصطناعى بسهولة لتصميم غازات الأعصاب السامة أو ميكروبات بيولوجية تنشر أمراضا معدية على نطاق عالمى. وبناء على طلب المعهد أجرى العلماء تجارب لمعرفة احتمال استغلال الذكاء الاصطناعى لتحقيق دوافع تدميرية خفية تقتل ملايين البشر على نطاق واسع، إذ أصيب الباحثون بالدهشة عندما اقترح لهم برنامج الذكاء الاصطناعى 40 ألف دواء سام مفترض فى غضون 6 ساعات فقط.