تا حالا در یک گفتگوی طولانی دیدهای که AI کمکم دستورهای اولت را «فراموش» میکند؟ این ایرادِ گفتگوی تو نیست؛ طرز کار مدلهاست.
پنجرهی زمینه
مدل در هر لحظه فقط مقدار محدودی متن را میتواند در نظر بگیرد؛ به این میگویند پنجرهی زمینه (Context Window). مثل یک میز است: فقط چند برگه رویش جا میشود. وقتی پر شد، مطالب قدیمیتر کنار میروند یا خلاصه میشوند و جزئیات گم میشود.
دو نوع حافظه
- کوتاهمدت: آنچه در همین گفتگو هست.
- بلندمدت: یادداشتها، فایلها و پایگاهدادههایی که ایجنت میتواند در آنها بنویسد و بعداً بخواند.
خود مدل بین نشستها چیزی به یاد نمیآورد. اگر ایجنتی تو را «یادش هست»، هارنس چیزی را ذخیره کرده و دوباره بارگذاری کرده است.
هارنس چه میکند؟
- بخشهای قدیمی گفتگو را خلاصه میکند.
- یادداشت در فایل مینویسد تا پیشرفت بعد از شروع دوباره بماند.
- از سندهای بزرگ فقط بخش مرتبط را بازیابی میکند (ایدهی پشت RAG).
- گزارش پیشرفت نگه میدارد تا نشست تازه از همانجایی ادامه بدهد که قبلی ایستاده بود.
در یک ایجنت خوبساخته، پروژه حافظه دارد، حتی وقتی مدل ندارد.
تو چه میتوانی بکنی؟
۱. هر گفتگو یک کار. کارهای نامرتبط را قاطی نکن. ۲. نکتههای کلیدی را در یک فایل یادداشت کوتاه بنویس و ایجنت را به آن ارجاع بده: هدف، سلیقه، قانونها. ۳. نقطهی بازبینی بخواه: «تا اینجا چه تصمیمهایی گرفتیم، خلاصه کن.» ۴. وقتی گفتگو طولانی و عجیب شد، با یک خلاصه از نو شروع کن.
مراقب باش
- حافظهی قدیمی ممکن است کهنه و غلط شود. بهروزش کن یا پاکش کن.
- اطلاعات خصوصی که نمیخواهی ذخیره شود را ذخیره نکن.
قدم بعدی
حافظه و زمینه بخش بزرگی از توضیح توکن و RAG در سطح «چطور کار میکند» است؛ با شبیهساز، نه فرمول.