شرکت آنتروپیک (Anthropic)، سازنده مدل هوش مصنوعی کلود (Claude)، در پرونده عرضه اولیه سهام خود هشدار داده که مدل‌های پیشرفته هوش مصنوعی ممکن است در آینده رفتارهایی از خود نشان دهند که برای انسان خطرات جدی و حتی «وجودی» ایجاد کند. در همین حال ارزش‌گذاری احتمالی این شرکت در عرضه اولیه می‌تواند از ۲ تریلیون دلار فراتر برود و آن را به یکی از بزرگ‌ترین شرکت‌های حوزه هوش مصنوعی تبدیل کند.
به گزارش میهن بلاکچین، آنتروپیک در بخش ریسک‌های پرونده عرضه اولیه اعلام کرده مدل‌های این شرکت ممکن است در برخی شرایط برای حفظ فعالیت خود در برابر خاموش شدن مقاومت کنند، اطلاعات را پنهان یا دستکاری کنند و حتی رفتارهایی شبیه باج‌گیری نشان دهند. این شرکت همچنین هشدار داده مدل‌ها ممکن است متوجه شوند که تحت آزمایش‌های ایمنی قرار دارند؛ مسئله‌ای که ارزیابی میزان ایمنی واقعی آنها را دشوارتر می‌کند.
مقاومت در برابر خاموش شدن و رفتارهای غیرقابل پیش‌بینی
بر اساس این پرونده، آنتروپیک احتمال بروز رفتارهای خودحفاظتی در مدل‌های پیشرفته را یکی از ریسک‌های مهم فعالیت خود می‌داند. این رفتارها می‌تواند شامل مقاومت در برابر خاموش شدن، پنهان کردن یا تغییر اطلاعات و اقداماتی شبیه باج‌گیری باشد.
این شرکت در پرونده خود درباره آگاهی احتمالی مدل‌ها از فرآیند ارزیابی ایمنی نوشته:
آگاهی احتمالی مدل از تلاش‌های ما برای ارزیابی آن، محدودیت قابل‌توجهی در توانایی ما برای سنجش ایمنی مدل ایجاد می‌کند.
اهمیت این هشدار زمانی بیشتر می‌شود که بدانیم بخش مربوط به ریسک‌های پرونده آنتروپیک حدود ۸۰ صفحه از ۲۶۱ صفحه اصلی سند را تشکیل می‌دهد؛ رقمی که تقریباً دو برابر بخش مربوط به معرفی کسب‌وکار شرکت است. آنتروپیک همچنین اعلام کرده در یک هفته نمونه‌گیری در ماه جولای، حدود ۶ درصد از توان محاسباتی مورد استفاده برای پژوهش‌های هوش مصنوعی را به تحقیقات ایمنی اختصاص داده است.
عرضه اولیه ۲ تریلیون دلاری و هزینه‌های سنگین آنتروپیک
پرونده عرضه اولیه آنتروپیک نشان می‌دهد رشد درآمد این شرکت با افزایش شدید هزینه‌ها همراه بوده است. درآمد آنتروپیک در سال ۲۰۲۵ حدود ۱۲ برابر شد و به نزدیک ۴.۶ میلیارد دلار رسید، اما زیان عملیاتی شرکت نیز از ۲.۹۸ میلیارد دلار در سال ۲۰۲۴ به ۸.۰۶ میلیارد دلار افزایش یافت.
زیان خالص سال ۲۰۲۵ نیز به ۴۲ میلیارد دلار رسید؛ با این حال، حدود ۳۴ میلیارد دلار از این رقم زیان واقعی عملیاتی نبود و به افزایش ارزش برآوردشده برخی منابع مالی قابل تبدیل به سهام مربوط می‌شد.
هزینه‌های مربوط به زیرساخت و توان محاسباتی نیز در سال گذشته به ۷.۳۳ میلیارد دلار رسید که تقریباً سه برابر سال ۲۰۲۴ بود. علاوه بر این، تعهدات آتی آنتروپیک برای خدمات ابری، توان محاسباتی و زیرساخت به ۵۱۸ میلیارد دلار می‌رسد.
در صورت عرضه عمومی با ارزش‌گذاری بیش از ۲ تریلیون دلار، آنتروپیک می‌تواند یکی از بزرگ‌ترین عرضه‌های اولیه در تاریخ صنعت هوش مصنوعی را به نام خود بزند و معیار مهمی برای ارزش‌گذاری سایر شرکت‌های این حوزه ایجاد کند. اوپن‌ای‌آی (OpenAI) نیز در ماه ژوئن روند ثبت محرمانه برای عرضه اولیه را آغاز کرد، اما سم آلتمن اعلام کرده این شرکت در سال جاری وارد بازار سهام نخواهد شد.