- برای بسیاری از سازمانهای ایرانی، سؤال اول درباره AI این نیست که «کدام مدل بهتر است؟» بلکه این است: آیا داده از سازمان خارج میشود؟ آیا کاربر میتواند سندی را ببیند که مجاز نیست؟ اگر مدل پاسخ اشتباه یا محرمانه داد، بعداً میتوانیم trace کنیم چه اتفاقی افتاده؟
- امنیت داده در هوش مصنوعی سازمانی فقط با نصب مدل روی سرور داخلی حل نمیشود. On-Premise AI میتواند کنترل بیشتری بدهد، اما بدون RBAC، DLP، guardrail، audit log، مدیریت دانش و LLMOps، همچنان ریسک جدی باقی میماند.
- امنیت AI یک قابلیت تکی نیست؛ مجموعهای از کنترلها از هویت و داده تا مدل، خروجی و لاگ است.
- مدلهای استقرار از زاویه امنیت
- مدل استقرارمزیتریسکمناسب برای
- ابزار عمومیشروع سریع و کیفیت بالاکنترل محدود روی داده و auditآموزش و متنهای غیرمحرمانه
- API خارجیتوسعه سریع و مدلهای قویخروج داده، وابستگی و هزینه ارزیداده anonymized یا کمریسک
- Private Cloud/زیرساخت اختصاصیتعادل بین کنترل و مقیاسنیاز به قرارداد و کنترل شبکهسازمان متوسط با داده نیمهحساس
- On-Premise AIکنترل بالاتر روی داده و شبکههزینه زیرساخت و نگهداریبانک، دولت، انرژی، سلامت و صنایع حساس
On-Premise کافی نیست؛ چه کنترلهایی لازم است؟
- Identity & Access: اتصال به سیستم هویت سازمان و اعمال نقش، واحد و سطح محرمانگی.
- Data Classification: مشخصکردن عمومی، داخلی، محرمانه و بسیار محرمانه بودن دادهها.
- DLP و Masking: جلوگیری از ارسال یا نمایش اطلاعات حساس در prompt و پاسخ.
- Prompt/Output Guardrail: کنترل درخواستهای پرریسک و پاسخهای غیرمجاز.
- Audit Log: ثبت کاربر، سؤال، منبع، مدل، پاسخ، زمان و رخداد.
- Incident Response: فرآیند رسیدگی به نشت داده، پاسخ اشتباه یا سوءاستفاده.
مثال: سند محرمانه در پایگاه دانش
اگر یک قرارداد محرمانه در index دانش وارد شود اما metadata سطح محرمانگی نداشته باشد، ممکن است کاربر عادی به شکل غیرمستقیم از آن پاسخ بگیرد. بنابراین امنیت RAG فقط به محل استقرار بستگی ندارد؛ به metadata، فیلتر دسترسی، chunking، کنترل منبع و نمایش citation هم وابسته است.
چکلیست امنیت قبل از go-live
- دادهها طبقهبندی شدهاند و مالک هر منبع مشخص است.
- سطح دسترسی کاربر در زمان retrieval اعمال میشود، نه فقط در UI.
- لاگها برای audit، بررسی رخداد و پاسخگویی مدیریتی کافیاند.
- prompt injection و سناریوهای سوءاستفاده تست شدهاند.
- پاسخهای حساس مسیر human review یا approval دارند.
- سیاست نگهداری، حذف و بازآموزی داده مشخص است.
هزینه امنیت AI را جداگانه ببینید
بخشی از هزینه پروژه AI مربوط به قابلیتهایی است که در دمو دیده نمیشوند: سیاست دسترسی، رمزنگاری، masking، لاگ، مانیتورینگ، تست امنیتی، مستندسازی و آموزش کاربران. حذف این بخشها شاید PoC را سریعتر کند، اما production را پرریسک میکند.
KPIهای امنیتی پیشنهادی
- KPIچرا مهم است؟
- تعداد promptهای پرریسکنیاز به آموزش یا guardrail را نشان میدهد
- درصد پاسخهای بدون منبعریسک اعتمادپذیری را نشان میدهد
- رخدادهای دسترسی غیرمجازکیفیت RBAC/ABAC را مشخص میکند
- زمان رسیدگی به رخدادآمادگی تیم عملیات و امنیت را میسنجد
- نرخ داده ماسکشده در ورودی/خروجیاثربخشی DLP را نشان میدهد
اشتباهات رایج
- فرض اینکه چون مدل داخلی است، همه چیز امن است.
- ایندکسکردن اسناد بدون سطح محرمانگی و مالک محتوا.
- نداشتن audit log قابل استفاده برای تیم امنیت.
- اجازه استفاده از ابزارهای AI بدون سیاست و آموزش کاربر.
مسیر پیشنهادی بعدی
برای طراحی AI با کنترل داده، نقشها، لاگ و مدلهای مجاز، صفحه هوش مصنوعی خصوصی برای سازمان مسیر امنتر را جمعبندی میکند.
