مدیرعامل آنتروپیک: هوش مصنوعی از انسان هم کمتر توهم می‌زند!

مدیرعامل آنتروپیک معتقد است مدل‌های هوش مصنوعی کمتر از انسان‌ها دچار توهم می‌شوند، اما این توهمات می‌توانند پیچیده‌تر و غیرمنتظره‌تر باشند.

کد خبر: ۱۲۶۵۴۸۶

شنبه - ۰۳ خرداد ۱۴۰۴ / May 24, 2025

به گزارش گروه دانشگاه خبرگزاری دانشجو داریو آمودی، مدیرعامل شرکت آنتروپیک، در رویداد توسعه‌دهندگان این شرکت اعلام کرد مدل‌های هوش مصنوعی جدید کمتر از انسان‌ها دچار توهم می‌شوند؛ البته این توهمات می‌توانند به شکل‌هایی غیرمنتظره بروز کنند.

او در پاسخ به نگرانی‌ها درباره مانع بودن توهمات برای دستیابی به هوش جامع مصنوعی (AGI) گفت که مسیر رسیدن به AGI همچنان با سرعت ادامه دارد و خودش یکی از خوش‌بین‌ترین چهره‌های این حوزه است.

با این حال، برخی از کارشناسان مانند دمیس هسابیس از گوگل دیپ‌مایند معتقدند توهمات هنوز چالشی جدی برای مدل‌های هوش مصنوعی هستند. حتی آنتروپیک اخیراً بابت ارائه اطلاعات نادرست توسط یکی از مدل‌هایش در پرونده‌ای قضایی عذرخواهی کرده است. شواهدی نیز وجود دارد که مدل‌های پیشرفته‌تر مانند o۳ و o۴-mini از OpenAI دچار نرخ بالاتری از توهم شده‌اند، در حالی که علت دقیق این مشکل هنوز مشخص نیست.