ابزار است، نه راهبر

تا اینجا یک چیز را دیدیم: آن نرم‌افزاری که رادیوگرافی را می‌خواند و آن مدلی که با آن گپ می‌زنید، دو موجودِ متفاوت‌اند، با دو منطقِ متفاوت، و دو جورِ متفاوتِ خطا. و دیدیم که مدل می‌تواند با اطمینانِ کامل چیزی بسازد که وجود ندارد. حالا سوالِ واقعی این است: با چنین چیزی چطور باید کار کرد؟

جواب در یک کلمه است: مثلِ یک ابزار، نه مثلِ یک راهبر.

فرق این دو ظریف ولی حیاتی است. به یک راهبر اعتماد می‌کنید که راه را بلد است و شما را ببرد؛ خودتان لازم نیست بدانید کجا می‌روید. ولی یک ابزار فقط در دستِ کسی کار می‌کند که خودش می‌داند دارد چه می‌کند. یک توربین در دستِ شما که دندانپزشکید، ابزار است؛ در دستِ کسی که نمی‌داند کجا را باید بتراشد، یک چیزِ خطرناک است. خودِ ابزار عوض نشده؛ آن چیزی که فرق می‌کند، آگاهیِ کسی است که در دستش گرفته.

با مدلِ زبانی هم دقیقاً همین است. یادتان هست گفتیم تنها چیزی که هلوسینیشن را لو می‌دهد، دانشِ خودِ شماست؟ این یعنی مدل فقط وقتی برایتان ابزارِ مفیدی است که در محدوده‌ای ازش استفاده کنید که خودتان در آن وارد باشید. اگر درباره‌ی چیزی ازش بپرسید که خودتان مسلط نیستید، دیگر هیچ راهی ندارید که بفهمید جوابش درست است یا ساختگی. آنجا دیگر ابزارِ شما نیست؛ شما اسیرِ او شده‌اید. همان مدل، در یک محدوده ابزارِ توانمندی است و در محدوده‌ی دیگر یک دامِ خطرناک، و مرزِ این دو، آگاهیِ شماست.

جالب اینجاست که این فقط نظرِ شخصی نیست. انجمنِ دندانپزشکیِ آمریکا در سندِ رسمی‌اش درباره‌ی هوش مصنوعی، عمداً یک تمایز می‌گذارد. می‌گوید بهتر است این فناوری‌ها را نه «هوش مصنوعی»ای که جای انسان را می‌گیرد، بلکه «هوش افزوده» augmented intelligence بدانیم؛ چیزی که قضاوتِ بالینیِ دندانپزشک را تقویت می‌کند، نه اینکه جایگزینش شود. یعنی خودِ نهادِ حرفه هم می‌گوید تصمیمِ نهایی همیشه با شماست، و این ابزارها قرار است کمکتان کنند بهتر فکر کنید، نه اینکه به‌جای شما فکر کنند.

پس اصلی که از این فصل با خودتان می‌برید این است: مدل همراهِ فکرِ شماست، نه جایگزینِ قضاوتتان. و هر چیزی که می‌شود راستی‌آزمایی‌اش کرد، یک عدد، یک دوز، یک منبع، تا وقتی خودتان تأییدش نکرده‌اید، باید فرض کنید که ممکن است ساختگی باشد.

حالا یک نکته‌ی آخر، که در عینِ حال دری است به فصلِ بعد. شاید با خودتان بگویید راهِ حل ساده است: کافی است به مدل منبع بدهیم تا از خودش درنیاورد. و راست هم می‌گویید؛ ابزارهایی هستند که دقیقاً همین کار را می‌کنند، مثل NotebookLM که فقط از روی منابعی که شما بهشان می‌دهید حرف می‌زنند و کمتر از خودشان می‌سازند. ولی همین‌جا یک سوال پیش می‌آید: اگر راهِ حل این‌قدر ساده است، چرا حتی این ابزارها هم به‌کل از خطا مصون نیستند؟ جوابِ این، و اینکه اصلاً چطور می‌شود مدل را طوری به کار گرفت که این خطاها کمتر شوند، شروعِ فصلِ دوم است.