وقتی هوش مصنوعی با اطمینان اشتباه می‌کند | ماشین جواب می‌دهد؛ خودتان باید قضاوت کند

همشهری آنلاین -یکتا فراهانی: مدل‌های زبانی پاسخ خود را مانند پژوهشگری که همه ادعاها را پیش از بیان بررسی می‌کند، تولید نمی‌کنند. آنها بر اساس الگوهایی که از حجم بزرگی از متن آموخته‌اند، محتمل‌ترین ادامه را می‌سازند.

همین توانایی باعث می‌شود مدل‌های هوش مصنوعی متن‌هایی طبیعی و سودمند تولید کنند، اما تضمین نمی‌کند که هر نام، تاریخ، عدد، نقل‌قول یا منبعی که در پاسخ می‌آید، درست باشد.

گاهی مدل اطلاعات ناقص را با جزئیاتی ساختگی تکمیل می‌کند؛ پدیده‌ای که در ادبیات هوش مصنوعی از آن با عنوان «توهم» یا Hallucination یاد می‌شود.

خطر اصلی، فقط خطا نیست

دکتر اباذر کریمی پنابندانی، متخصص هوش مصنوعی و عضو آکادمی علوم اروپا می‌گوید: انسان‌ها هم اشتباه می‌کنند و خطای هوش مصنوعی موضوع تازه‌ای نیست. اما به اعتقاد کریمی، مشکل مهم‌تر این است که هوش مصنوعی ممکن است هنگام ارائه یک پاسخ اشتباه، همان نشانه‌های اطمینانی را داشته باشد که هنگام ارائه یک پاسخ صحیح دارد.

کاربر معمولاً پشت‌صحنه تولید پاسخ را نمی‌بیند و نمی‌داند کدام بخش بر یک منبع معتبر تکیه دارد، کدام قسمت استنباط مدل است و کدام بخش صرفاً محتمل به نظر رسیده است؛ بنابراین، روانی متن نباید جای اعتبار شواهد را بگیرد.

وقتی یک اشتباه می‌تواند جدی باشد

این خطاها در پرسش‌های روزمره شاید فقط باعث اتلاف زمان شوند، اما در حوزه‌هایی مانند پزشکی، حقوقی، مالی و علمی، پیامدهای جدی‌تری دارند.

تصور کنید فردی درباره تداخل دو دارو سؤال می‌کند، مدیری بر اساس یک عدد تأییدنشده تصمیم مالی می‌گیرد، دانشجویی منبعی ساختگی را در مقاله خود می‌آورد یا شهروندی یک توضیح حقوقی ناقص را مبنای اقدام قرار می‌دهد. در چنین شرایطی، هوش مصنوعی می‌تواند نقطه شروع بررسی باشد، اما نباید به‌تنهایی نقش مرجع نهایی را ایفا کند.

بیشتر بخوانید :

• دانشمندان با الهام از ژنوم باکتری، هوش مصنوعی کوچک‌تر می‌سازند

• تحقیقات جدید یک پژوهشگر و متخصص هوش مصنوعی ایرانی در مورد کشف تناقض‌های پنهان در هوش مصنوعی

سواد هوش مصنوعی فقط کار با ابزار نیست

دکتر کریمی تأکید می‌کند سواد هوش مصنوعی فقط به شناخت ابزارها یا توانایی تولید سریع‌تر متن و تصویر محدود نمی‌شود. فرد باسواد در این حوزه باید محدودیت‌های ابزار را بشناسد، میان «پاسخ» و «سند» تفاوت بگذارد و بداند میزان اعتماد باید با میزان حساسیت تصمیم متناسب باشد.

پیشنهاد یک عنوان برای یک نوشته با توصیه درباره مصرف دارو یکسان نیست. هرچه هزینه یک خطا بیشتر باشد، راستی‌آزمایی نیز باید جدی‌تر شود.

ذکر منبع کافی نیست

یکی از راه‌های استفاده مسئولانه از هوش مصنوعی این است که از آن بخواهیم منبع ادعاهای مهم را مشخص کند. اما ارائه منبع نیز پایان بررسی نیست؛ زیرا ممکن است نشانی یا عنوان یک منبع هم نادرست یا حتی ساختگی باشد.

به گفته این متخصص هوش مصنوعی، منبع باید مستقلاً بررسی شود و محتوای آن با ادعای مطرح‌شده تطبیق داده شود.

از هوش مصنوعی بخواهید خودش را به چالش بکشد

در گام بعد می‌توان از مدل خواست میزان اطمینان، فرض‌های پنهان و مواردی را که درباره آنها اطلاعات کافی ندارد، روشن کند.

پرسیدن این سؤال که «چه شواهدی ممکن است این پاسخ را رد کند؟» همچنین می‌تواند راهی برای آشکار کردن ضعف استدلال باشد.

در موضوعات حساس، متخصص وارد شود

کریمی معتقد است در موضوعات حساس، مراجعه به منبع اصلی و متخصص مربوط ضروری است. برای اطلاعات پزشکی باید به منابع معتبر سلامت و پزشک مراجعه کرد؛ در مسائل حقوقی، متن قانون و حقوق‌دان اهمیت دارد و برای آمار نیز باید به گزارش رسمی نهاد تولیدکننده داده رجوع کرد.

مقایسه پاسخ با چند منبع مستقل نیز احتمال پذیرش یک خطای واحد را کاهش می‌دهد.

مسئولیت تصمیم همچنان با انسان است

مسئولیت فقط بر عهده کاربران نیست. رسانه‌ها، مدارس، دانشگاه‌ها، سازمان‌ها و کسب‌وکارها نیز باید شیوه استفاده از هوش مصنوعی را آموزش دهند و برای کاربردهای حساس، قواعد مشخصی داشته باشند.

کاربران باید بدانند چه نوع داده‌ای را می‌توان وارد سامانه کرد، چه خروجی‌هایی نیازمند تأیید انسانی است و مسئولیت تصمیم نهایی با چه کسی خواهد بود.

پاسخ خوب، الزاماً پاسخ درست نیست

هوش مصنوعی می‌تواند سرعت، دسترسی به اطلاعات و کیفیت ایده‌پردازی را افزایش دهد، اما ارزش واقعی آن زمانی آشکار می‌شود که کاربر توان داوری خود را حفظ کند؛ بنابراین پیش از پذیرش هر پاسخ، منبع، شواهد و پیامد احتمالی خطا را بررسی کنیم.

پاسخ خوب الزاماً پاسخ درست نیست و لحن مطمئن نیز گواه حقیقت محسوب نمی‌شود. نقطه آغاز سواد هوش مصنوعی همین عادت ساده است.