ویتالیک بوترین (Vitalik Buterin)، هم‌بنیان‌گذار اتریوم، معتقد است چت‌بات هوش مصنوعی گروک (Grok) با همه ضعف‌ها و حاشیه‌هایش، در مجموع توانسته فضای شبکه اجتماعی ایکس (X) را حقیقت‌محورتر کند.
به گزارش میهن بلاکچین، از نگاه بوترین، گروک برخلاف بسیاری از ابزارهای مشابه، اغلب به‌جای تأیید پیش‌فرض‌ها و سوگیری‌های کاربران، آن‌ها را به چالش می‌کشد و همین ویژگی، ارزش آن را بالا می‌برد.
بوترین در اظهاراتی که روز پنج‌شنبه مطرح کرد، گفت امکان فراخوانی سریع و آسان گروک در ایکس، احتمالاً بعد از قابلیت یادداشت‌های جامعه (Community Notes)، یکی از مثبت‌ترین اتفاق‌ها برای افزایش حقیقت‌دوستی این پلتفرم بوده است. به گفته او، نکته مهم اینجاست که کاربران از پیش نمی‌دانند گروک چه پاسخی خواهد داد.
همین عدم قطعیت باعث می‌شود نتیجه گفت‌وگوها کمتر قابل دستکاری باشد. بوترین توضیح داد بارها دیده افرادی که با انتظار تأیید باورهای سیاسی افراطی یا عجیب خود به سراغ گروک رفته‌اند، در نهایت با پاسخی روبه‌رو شده‌اند که اساساً فرضیاتشان را زیر سؤال برده و فرش را از زیر پایشان کشیده است.
با این حال، بوترین تأکید می‌کند که این ارزیابی مثبت به معنای نادیده گرفتن ایرادها نیست.
از نظر بوترین، می‌توان استدلال قوی‌ای مطرح کرد که گروک در مجموع یک بهبود خالص برای ایکس بوده، اما نگرانی‌هایی جدی درباره نحوه آموزش و تنظیم این مدل وجود دارد. او به‌طور مشخص به این موضوع اشاره می‌کند که گروک از دیدگاه‌ها و نظرات گروه خاصی از کاربران یاد می‌گیرد؛ از جمله خالق آن، ایلان ماسک (Elon Musk) و همین مسئله می‌تواند بر بی‌طرفی و خروجی‌های آن اثر بگذارد.
این ضعف‌ها ماه گذشته به‌وضوح خود را نشان دادند. گروک در پاسخ‌هایی اغراق‌آمیز، از توانایی‌های ورزشی ایلان ماسک تعریف کرد و حتی در مثالی عجیب، تلویحاً او را از نظر سرعت بازگشت به زندگی بالاتر از عیسی مسیح دانست.
ایلان ماسک این خطاها را نتیجه پرامپت‌سازی مخرب یا همان تلاش آگاهانه کاربران برای فریب مدل دانست. در مقابل، برخی مدیران و فعالان صنعت رمزارز این اتفاق را نشانه‌ای از یک مشکل ساختاری بزرگ‌تر توصیف کردند و گفتند چنین خطاهایی نشان می‌دهد چرا هوش مصنوعی باید به‌سمت مدل‌های غیرمتمرکز حرکت کند تا دقت، اعتبار و بی‌طرفی آن حفظ شود.
این دغدغه تنها محدود به گروک نیست. کایل اوکاموتو (Kyle Okamoto)، مدیر ارشد فناوری پلتفرم ابری غیرمتمرکز ایتیر (Aethir)، ماه گذشته در گفت‌وگویی هشدار داد زمانی که قدرتمندترین سیستم‌های هوش مصنوعی در مالکیت، آموزش و حاکمیت یک شرکت واحد باشند، زمینه برای نهادینه شدن سوگیری الگوریتمی فراهم می‌شود.
به گفته او، در چنین شرایطی مدل‌ها شروع می‌کنند به تولید پاسخ‌ها و جهان‌بینی‌هایی که گویی واقعیت‌های عینی هستند، و از همین نقطه است که سوگیری دیگر یک باگ ساده نیست، بلکه به منطق عملیاتی سیستمی تبدیل می‌شود که در مقیاس وسیع تکثیر می‌شود.
گروک توسط شرکت ایکس‌ای‌آی (xAI) متعلق به ایلان ماسک توسعه یافته و در حال حاضر یکی از پرکاربردترین چت‌بات‌های هوش مصنوعی به شمار می‌رود. در جهانی که بیش از ۱ میلیارد نفر به‌نوعی از ابزارهای هوش مصنوعی استفاده می‌کنند، انتشار اطلاعات نادرست یا گمراه‌کننده می‌تواند با سرعتی بسیار بالا اتفاق بیفتد و پیامدهای جدی به‌دنبال داشته باشد.
با وجود همه این‌ها، بوترین معتقد است گروک در مقایسه با بسیاری از ابزارهای جانبی و محتوای بی‌کیفیت شخص ثالث که امروز در شبکه‌های اجتماعی دیده می‌شود، عملکرد بهتری در سوق دادن کاربران به سمت حقیقت‌جویی داشته است. از نگاه او، این موفقیت نسبی نشان می‌دهد حتی با وجود نقص‌ها، برخی مدل‌ها می‌توانند نقش مثبتی در بهبود کیفیت گفت‌وگوهای آنلاین ایفا کنند.
البته مشکلات هوش مصنوعی به گروک ختم نمی‌شود. چت‌جی‌پی‌تی (ChatGPT) متعلق به اوپن‌ای‌آی (OpenAI) نیز بارها به دلیل پاسخ‌های جانبدارانه یا خطاهای مورد انتقاد قرار گرفته است.
در سوی دیگر، پلتفرم کاراکتر
