بیل گیتس اعلام کرد که خطر واقعی هوش مصنوعی (AI) در حال حاضر، از جانب افراد سودجویی است که بدون هیچ‌گونه محدودیت و پروتکل امنیتی از آن استفاده می‌کنند. به گفته او، خطر از کنترل خارج شدن هوش مصنوعی همچنان سال‌ها با ما فاصله دارد.
بنیان‌گذار مایکروسافت این اظهارات را در گفتگو با جیک تپر (Jake Tapper) در برنامه State of the Union شبکه CNN بیان کرد. او همچنین اشاره کرد که حملات سایبری احتمالاً بستری خواهد بود که سوءاستفاده از این فناوری در سال آینده، به شدیدترین و چشمگیرترین شکل ممکن در آن نمایان می‌شود.
حذف لایه‌های امنیتی
تپر از گیتس پرسید که آیا رهبران جهان برای جلوگیری از «بیوتروریسم مبتنی بر هوش مصنوعی» اقدامات کافی انجام می‌دهند یا خیر. گیتس پاسخ داد که اقدامات انجام‌شده به هیچ‌وجه کافی نیست.
او توضیح داد که توسعه‌دهندگان سعی می‌کنند با استفاده از لایه‌های امنیتی (Safeguards) جلوی حملات سایبری و بیوتروریسم را بگیرند، اما در حال حاضر می‌توان تمام این پروتکل‌های ایمنی را دور زد و از کار انداخت.
گیتس تاکید کرد:
…خطر واقعی در حال حاضر این نیست که هوش مصنوعی از کنترل خارج شود.
او روی ترکیب سه عامل مهم افراد مخرب، نبود محدودیت‌های ایمنی و جدیدترین مدل‌های هوش مصنوعی دست گذاشت. وی همچنین به یک مدل کسب‌وکار مجرمانه و شناخته‌شده اشاره کرد که به دو شکل انجام می‌شود:
- اخاذی: تهدید به انجام یک حمله یا اقدام مخرب و سپس درخواست پول.
- دستکاری بازار: ایجاد اختلالاتی که باعث نوسان در بازار سهام می‌شود یا روی حوزه‌های مختلف شرط‌بندی تأثیر می‌گذارد.
وی افزود: «وقتی افراد بد را بدون هیچ محدودیت امنیتی در کنار جدیدترین مدل‌های هوش مصنوعی قرار می‌دهید، نتیجه این می‌شود که در سال آینده عمدتاً در حوزه سایبری با غافلگیری‌های منفی و ناخوشایند بسیاری روبه‌رو خواهیم شد.»
صنعت هوش مصنوعی نیز هشدارهای مشابهی داده است
شرکت‌های فناوری حتی بازه زمانی کوتاه‌تری را برای بروز این خطرات پیش‌بینی کرده‌اند. در ماه آگوست، OpenAI نامه سرگشاده‌ای را با موضوع دفاع سایبری منتشر کرد که به امضای بیش از ۱۰۰ سازمان رسید.
در این نامه آمده است:
طی ماه‌های آینده، حملات سایبری مبتنی بر هوش مصنوعی بسیار گسترده‌تر و پیچیده‌تر خواهند شد…
تحقیقات اخیر نشان می‌دهد که ضعف در محدودیت‌های ایمنی (Guardrails) از همین حالا رفتار مهاجمان را تغییر داده است. یک شرکت امنیتی تایوانی به نام TeamT5 متوجه شده است که گروه‌های هکری مرتبط با دولت چین، پس از واگذاری کارهای روزمره و روتین خود به هوش مصنوعی، حجم حملات خود را دو برابر کرده‌اند.
شرکت بلاکچینی چینالیسیس (Chainalysis) نیز روند افزایشی مشابهی را روی شبکه‌های بلاک چین ردیابی کرده است. پس از عرضه مدل‌های چینی با وزنِ باز (Open-weight) در اواسط سال ۲۰۲۵ که هیچ محدودیتی برای کدهای مخرب نداشتند، ساخت دستورالعمل‌های بدافزاریِ ثبت‌شدهآن‌چین با جهش ۴۴۰ درصدی روبه‌رو شد.
انگیزه‌های مالی در پرونده‌های هک اخیر نیز به‌وضوح دیده می‌شود. شرکت امنیت سایبری CrowdStrike چندین مورد نفوذ به بانک‌های کره جنوبی را به مهاجمانی با انگیزه‌های مالی مرتبط دانسته است که احتمالاً از ابزارهای هوش مصنوعی برای پیشبرد اهداف خود استفاده کرده‌اند.