اشتباه چت‌بات یک پاراگراف بد است. اشتباه ایجنت می‌تواند یک فایل پاک‌شده، یک ایمیل اشتباه یا یک پرداخت ناخواسته باشد. برای همین ایجنت‌ها محافظ لازم دارند.
قانون باید اجرا شود، نه فقط خواسته شود
نوشتن «مراقب باش» در پرامپت یک توصیه است، نه محافظ. محافظ واقعی چیزی است که سیستم اجرا می‌کند: ایجنت اصلاً نمی‌تواند آن کار را بکند، یا بدون تأیید نمی‌تواند.
شش لایه که باید بشناسی
۱. حداقل دسترسی: فقط دسترسی‌ای را بده که کار لازم دارد. ۲. مرحله‌ی تأیید: پیش از ارسال، پرداخت، حذف یا انتشار، «بله»ی یک انسان را لازم بدان. ۳. محیط ایزوله: بگذار اول روی یک کپی یا در فضایی جدا کار کند. ۴. سقف‌ها: زمان، تعداد مراحل و هزینه را محدود کن تا حلقه‌ها بی‌پایان ادامه پیدا نکنند. ۵. گزارش: هر کار را ثبت کن تا بتوانی بعداً مرور کنی. ۶. بازگشت و پشتیبان: مطمئن شو اشتباه‌ها قابل برگشت‌اند.
مثال
ایجنتی که صندوق ایمیلت را مرتب می‌کند: می‌تواند بخواند و پیش‌نویس بنویسد، اما نمی‌تواند بفرستد یا حذف کند. تو پیش‌نویس‌ها را مرور می‌کنی و خودت ارسال را می‌زنی. بیشتر صرفه‌جویی زمان را داری، بدون ریسک رفتن یک پیام اشتباه.
چک‌لیست سریع پیش از واگذاری کار
- بدترین کاری که این ایجنت با این دسترسی می‌تواند بکند چیست؟
- کدام کارها غیرقابل‌برگشت‌اند؟
- کجا به تأیید من نیاز دارد؟
- بعداً می‌توانم ببینم چه کرده؟
- به داده‌ی خصوصی یا حساس دست می‌زند؟
قدم بعدی
کوچک شروع کن و اعتماد را تدریجی زیاد کن. مقاله‌ی «ساخت اولین ایجنت» راهی ساده برای این کار نشان می‌دهد.