مرزهای دسترسی عامل کدنویسی را چطور تعیین کنیم؟

مجوز عامل باید از ریسک همان وظیفه پیروی کند: ابزار کمتر، Scope کوچک‌تر، تأیید پیش از عمل حساس و مشاهده‌پذیری کامل.

پاسخ کوتاه

عامل را با دسترسی کامل شروع نکنید. برای هر وظیفه مشخص کنید چه داده‌ای را می‌تواند بخواند، کجا می‌تواند بنویسد، کدام فرمان یا شبکه مجاز است و چه عملی حتماً به تأیید انسان نیاز دارد.

گردش‌کار پیشنهادی

1. وظیفه را به قابلیت‌های لازم مانند خواندن، ویرایش، تست و ساخت PR نگاشت کنید.
2. هر ابزار، مسیر فایل، مخزن و مقصد شبکه اضافی را حذف کنید.
3. حذف داده، migration، نصب dependency، انتشار و دسترسی Production را پشت تأیید بگذارید.
4. محیط اجرا را از حساب و داده روزمره جدا و عمر نشست را محدود کنید.
5. فراخوانی ابزار، فرمان، تغییر فایل و پاسخ تأیید را ثبت کنید.
6. دکمه توقف، timeout و مسیر بازیابی را پیش از واگذاری کار آزمایش کنید.

مثال اجرایی

برای نوشتن تست واحد، خواندن سورس و نوشتن در پروژه تست کافی است؛ دسترسی شبکه، Secret، migration و انتشار هیچ توجیهی ندارد. اگر dependency جدید لازم شد، عامل باید متوقف شود و دلیل ارائه کند.

چطور نتیجه را راستی‌آزمایی کنیم؟

ماتریس «عمل × منبع × محیط × نیاز به تأیید» بسازید و یک سناریوی ممنوع را آزمایش کنید. کنترل فقط وقتی معتبر است که واقعاً مانع عمل شود، نه اینکه صرفاً در سیاست نوشته شده باشد.

خطاهای رایج

دادن ابزارهای متعدد برای راحتی، استفاده از یک حساب مشترک و اتکای صرف به prompt نمونه‌های اختیار بیش‌ازحد‌اند. محدودیت فنی باید در لایه اجرا اعمال شود.

جایگاه این مطلب در مسیر یادگیری

مرزها را در دستور چندمرحله‌ای عامل بنویسید و برای کنترل سازمانی به چک‌لیست حاکمیت متصل کنید.

منابع و محدودیت

OWASP ریسک Excessive Agency را حاصل قابلیت، مجوز یا خودمختاری بیش‌ازحد می‌داند و کاهش هر سه به‌همراه تأیید انسانی را پیشنهاد می‌کند. OWASP LLM06: Excessive Agency.

جمع‌بندی

هدف حذف توان عامل نیست؛ هدف تناسب اختیار با کار و قابل‌مشاهده‌بودن هر اقدام است.