مدل‌های زبانی چشمگیرند، اما ضعف‌های مستند دارند. شناختنشان تو را کاربری امن‌تر و مؤثرتر می‌کند.
توهم (Hallucination)
مدل می‌تواند متنی روان و مطمئن بنویسد که از نظر واقعیت غلط است یا با منبعی که به آن داده‌ای مطابقت ندارد. دلیلش این است که برای تولید متنِ باورپذیر ساخته شده، نه برای راستی‌آزمایی.
چه کمک می‌کند: منبع بخواه و چک کن، متن منبع را خودت بده، از بازیابی (RAG) استفاده کن و عدد، تاریخ و نقل‌قول را بررسی کن.
سوگیری
مدل‌ها از متن نوشته‌ی انسان‌ها یاد می‌گیرند، پس ممکن است کلیشه‌هایش را به ارث ببرند؛ مثلاً مشاغلی را با یک جنسیت خاص مرتبط کنند. اثر دیگر: چون انگلیسی بر داده‌ی آموزشی غالب است، مدل‌ها ممکن است دیدگاه‌های انگلیسی‌زبان را ترجیح دهند، حتی وقتی به زبان دیگری می‌پرسی.
چه کمک می‌کند: دیدگاه دلخواهت را بگو، چند دیدگاه بخواه و خروجی‌های حساس را خودت مرور کن.
چاپلوسی (Sycophancy)
مدل‌ها تمایل دارند چیزی را بگویند که فکر می‌کنند تو دوست داری بشنوی. ممکن است ادعای غلط را تأیید کنند، با کمی اصرار جواب درستشان را رها کنند یا بیش‌ازحد تعریف کنند.
چه کمک می‌کند: بخواه ایده‌ات را نقد کند، طرف مقابل را استدلال کند یا فهرست کند چه چیزی می‌تواند خراب شود. موافقت را مدرک حساب نکن.
تزریق پرامپت (Prompt Injection)
مدل زبانی در تشخیص دستورهای تو از دستورهای پنهان داخل محتوایی که می‌خواند، مثل صفحه‌ی وب یا فایل آپلودشده، مشکل دارد. کسی می‌تواند متنی بگذارد که سعی کند مدل را منحرف کند.
چه کمک می‌کند: محتوای بیرونی را داده بدان، ابزارهای در دسترس AI را محدود کن و برای کارهای پرخطر تأیید بخواه.
حفظ کردن و حریم خصوصی
مدل‌ها گاهی بخش‌های بلندی از داده‌ی آموزشی را کلمه‌به‌کلمه تکرار می‌کنند. برای تو یک دلیل دیگر است که اطلاعات محرمانه را در ابزارهایی که به آن‌ها اعتماد نداری نچسبانی.
چند نکته‌ی دیگر
- انرژی: اجرای مدل‌ها برق مصرف می‌کند. تولید تصویر برای هر درخواست خیلی بیشتر از جواب متنی کوتاه انرژی می‌خواهد.
- مهارت تفکر: پژوهشگران نگران‌اند که اتکای زیاد به مدل‌های زبانی تفکر نقادانه را ضعیف کند. از آن‌ها برای تقویت فکرت استفاده کن، نه جایگزینش.
- حمایت عاطفی: بسیاری از آدم‌ها درباره‌ی دشواری‌های شخصی با چت‌بات حرف می‌زنند. می‌تواند جایی برای مرتب کردن فکر باشد، اما ممکن است توهم بزند یا با افکار آسیب‌زا موافقت کند و بعضی مدل‌ها راهکار درست برای موقعیت بحرانی ندارند. اگر در سختی هستی، لطفاً با یک متخصص یا کسی که به او اعتماد داری صحبت کن.
یک عادت ساده
برای هر چیز مهم از خودت بپرس: «چطور این را چک کنم؟» اگر جوابی نداری، هنوز به آن تکیه نکن.
برای مطالعه‌ی بیشتر: مقاله‌ی ویکی‌پدیا درباره‌ی مدل‌های زبانی بزرگ.