ARCH_NCاستودیو معماری دیجیتال
AI Agent

ایجنت هوش مصنوعی امن برای کسب‌وکار: درس‌های نشت داده‌ی نوامبر ۲۰۲۶

ایجنت هوش مصنوعی امن یعنی ایجنتی که فقط به داده و ابزاری که لازم دارد دسترسی دارد، رمز و کلید هیچ‌وقت در متن گفت‌وگو نمی‌نشیند و کارهای برگشت‌ناپذیر با تأیید انسان انجام می‌شود. هفته‌ی دوم نوامبر ۲۰۲۶ سه خبر نشان داد که ضعف اصلی ایجنت‌ها معمولاً خود مدل نیست؛ جاهایی است که داده نگه داشته، به اشتراک گذاشته یا دست ایجنت سپرده می‌شود.

سه اتفاق این هفته

۱. نشت گفت‌وگوهای Notion AI از راه Fireworks AI

Notion اعلام کرد که در حمله به Fireworks AI، شرکتی که زیرساخت بخشی از قابلیت‌های هوش مصنوعی Notion را تأمین می‌کرد، متن گفت‌وگوهای Notion AI در کمتر از ۱٪ فضاهای کاری لو رفته است. این گفت‌وگوها برای قابلیت Insights نگه داشته شده بودند. Fireworks اوایل اکتبر هم یک نفوذ دیگر داشت که در آن کلیدهای API و توکن‌های بخشی از حساب‌ها افشا شده بود.

نکته‌ی تلخ ماجرا: Notion در بعضی گفت‌وگوها کلید API پیدا کرد؛ کاربرانی که کلید را برای کمک گرفتن در چت چسبانده بودند. Notion کلیدهای خودش را باطل کرد، قابلیت Insights را خاموش کرد، همکاری با Fireworks را قطع کرد و به کاربران گفت هر رمز یا کلیدی را که در Notion AI چسبانده‌اند عوض کنند.

درس: داده‌ی شما فقط پیش ارائه‌دهنده‌ی مدل نیست؛ پیش هر تأمین‌کننده‌ای است که در مسیر قرار دارد. و چیزی که در چت می‌چسبانید ممکن است جایی ذخیره شود.

۲. بیش از ۳۵ هزار اپ Grok Build بدون ورود قابل‌دسترسی بود

شرکت امنیتی Claroc گزارش داد بیش از ۳۵ هزار اپی که با ابزار ساخت اپ Grok Build ساخته و با لینک اشتراکی به اشتراک گذاشته شده بودند، بدون ورود باز می‌شدند و بعضی داده‌ی محرمانه داشتند. لینک‌ها تصادفی بودند، ولی Claroc نشان داد لینک «فهرست‌نشده» جای کنترل دسترسی را نمی‌گیرد. طرف دیگر می‌گوید اپ‌ها به‌طور پیش‌فرض خصوصی‌اند و فقط با اشتراک‌گذاری خود سازنده عمومی می‌شوند، و ابزارهای مشابه هم همین مدل لینک را دارند.

درس: هر ابزاری که «با یک لینک به اشتراک بگذارید» دارد، آن لینک را عمومی فرض کنید. اپ داخلی که داده‌ی مشتری دارد باید ورود واقعی داشته باشد.

۳. یونایتد ایرلاینز ایجنت‌های شخصی را محدود کرد

یونایتد اعلام کرد استفاده‌ی ایجنت‌ها و دستیارهای هوش مصنوعی شخص ثالثِ بدون مجوز را در سایت و حساب‌های کاربری و از راه آژانس‌ها محدود می‌کند. دلیلش: کاربران رمز حسابشان را به این ابزارها می‌دهند و اگر لو برود، حساب در خطر است. جست‌وجوی پرواز در سایت‌هایی مثل Google Flights باز می‌ماند. به گزارش Forbes، چند شرکت هواپیمایی دیگر اجازه می‌دهند ولی ریسک را با مشتری می‌دانند.

درس: دادن رمز اصلی به ایجنت، راه میان‌بُر خطرناکی است. ایجنت باید با دسترسی محدود و جدا کار کند، نه با هویت کامل شما.

چک‌لیست ایجنت امن برای کسب‌وکار

  1. رمز و کلید هیچ‌وقت در پرامپت نباشد: کلیدها روی سرور و در متغیر محیطی می‌مانند و ایجنت فقط ابزاری را صدا می‌زند که خودش کلید را دارد. همان کاری که در اتصال سایت به هلو انجام می‌دهیم.
  2. کمترین دسترسی: ایجنتی که پیام مشتری را دسته‌بندی می‌کند، دسترسی حذف یا پرداخت لازم ندارد. برای هر ابزار فقط همان عملیات لازم را باز کنید.
  3. تأیید انسان برای کار برگشت‌ناپذیر: ارسال به مشتری، پرداخت، حذف داده و تغییر قیمت با تأیید یک آدم.
  4. داده‌ی حساس را قبل از مدل فیلتر کنید: فقط بخشی از داده که برای آن کار لازم است به مدل برسد؛ شماره کارت، کد ملی و رمز هرگز.
  5. زنجیره‌ی تأمین را بشناسید: بدانید داده از چه سرویس‌هایی رد می‌شود، کجا ذخیره می‌شود و چه مدت. ارائه‌دهنده‌های بزرگ هم سیاست نگهداری داده دارند؛ مثلاً Anthropic برای Fable 5.2 نگهداری ۳۰ روزه برای پایش ایمنی دارد (Claude Fable 5.2).
  6. متن بیرونی را دستور فرض نکنید: اگر ایجنت ایمیل، صفحه‌ی وب یا فایل می‌خواند، ممکن است در آن دستور مخفی باشد (prompt injection). حتی گوگل درباره‌ی قوی‌ترین مدلش، Gemini 4 Carbon، می‌گوید این بخش هنوز جای پیشرفت دارد. ایجنتی که متن ناشناس می‌خواند نباید هم‌زمان دسترسی خطرناک داشته باشد.
  7. لینک اشتراکی را عمومی فرض کنید: داشبورد و اپ داخلی با ورود واقعی، نه لینک مخفی.
  8. همه‌چیز ثبت شود و هشدار بدهد: هر فراخوانی ابزار ثبت شود و رفتار غیرعادی به تلگرام یا بله خبر بدهد (مدیریت خطا در n8n).
  9. برنامه‌ی واکنش داشته باشید: اگر تأمین‌کننده‌ای نشت داشت، بدانید کدام کلیدها را باید عوض کنید. کلیدهای جدا برای هر سرویس این کار را ساده می‌کند.

به کارمندان چه بگوییم؟

  • رمز، کلید API و اطلاعات مشتری را در چت‌بات‌های عمومی نچسبانید.
  • رمز حساب‌های کاری را به افزونه یا ایجنت شخصی ندهید.
  • قبل از اشتراک‌گذاری اپ یا سند ساخته‌شده با هوش مصنوعی، بپرسید چه کسی با این لینک دسترسی دارد.

جمع‌بندی

هر سه اتفاق یک ریشه داشتند: داده یا دسترسی جایی رفت که نباید. ایجنت امن با طراحی درست ساخته می‌شود، نه با امید به مدل امن‌تر. ما ایجنت‌ها را با کلید روی سرور، دسترسی محدود، تأیید انسانی و گزارش‌گیری می‌سازیم؛ صفحه‌ی ایجنت هوش مصنوعی اختصاصی و اتوماسیون با Claude را ببینید.

برای انتخاب مدل زبانی مناسب و برآورد هزینه‌ی آن، بهترین مدل هوش مصنوعی برای ایجنت کسب‌وکار را بخوانید.

پرسش‌های رایج

آیا استفاده از ایجنت هوش مصنوعی برای کسب‌وکار امن است؟

اگر درست طراحی شود بله: کلیدها روی سرور، کمترین دسترسی، تأیید انسان برای کارهای برگشت‌ناپذیر و ثبت همه‌ی فعالیت‌ها.

در نشت Fireworks AI چه اتفاقی افتاد؟

مهاجمان به داده‌ی Fireworks AI دسترسی پیدا کردند و متن گفت‌وگوهای Notion AI مربوط به قابلیت Insights در کمتر از ۱٪ فضاهای کاری لو رفت. Notion به کاربران گفت هر رمز یا کلیدی که در گفت‌وگو چسبانده‌اند عوض کنند.

Prompt injection چیست؟

دستور مخفی در متنی که ایجنت می‌خواند، مثل ایمیل یا صفحه‌ی وب، که سعی می‌کند ایجنت را به کار دیگری وادار کند. راه مقابله، محدود کردن دسترسی ایجنتی است که متن ناشناس می‌خواند.

چرا یونایتد ایجنت‌ها را محدود کرد؟

چون کاربران رمز حسابشان را به ایجنت‌های شخص ثالث می‌دادند و نشت آن حساب را به خطر می‌انداخت.

لینک اشتراکی مخفی کافی نیست؟

نه. ماجرای Grok Build نشان داد لینک فهرست‌نشده جای ورود و کنترل دسترسی را نمی‌گیرد.

خدمت مرتبط: ساخت ایجنت هوش مصنوعی (AI Agent) اختصاصی برای شرکت شما