Savollarga javob beradigan chat-bot — riski past: eng yomoni, matnda xato qiladi. Haqiqiy jarayonlarga oʻrnatilgan AI-agent — boshqa toifa: u hujjatlarni roʻyxatga oladi, ijrochilarni tayinlaydi, buyruqlar tayyorlaydi. Demak, uning xavfsizligiga qoʻyiladigan talablar ham boshqacha boʻlishi kerak. d8n.ai raqamli xodimlari xavfsizligi qanday tamoyillarga qurilganini aytib beramiz.
Agent foydalanuvchi huquqlari bilan qatʼiy ishlaydi
d8n.ai’dagi agentning oʻz imtiyozlari yoʻq. U aniq xodimning ACL’ini meros qilib oladi: kimning nomidan ishlasa, oʻsha inson koʻradigan hujjatlar, papkalar va jarayonlarni koʻradi — ortiq emas. Xodimning huquqlari oʻzgarsa, agentning imkoniyatlari ham bir zumda oʻzgaradi. Bu risklarning butun sinfini olib tashlaydi: «hamma narsani koʻradigan AI’ni» buzib boʻlmaydi, chunki u mavjud emas.
Har bir harakat — audit lentasida
Agent qilgan hamma narsa harakatlar lentasida koʻrinadi: qaysi hujjatni oʻqidi, nimani yaratdi, qaysi marshrut bilan yubordi, kimga yozdi. Toʻliq kuzatuvchanlik AI ishini inson ishi kabi tekshirish mumkinligini anglatadi — ham ayni damda, ham xizmat tekshiruvi yoki tashqi audit paytida retrospektiv tarzda.
Muhim qadamlarni inson tasdiqlaydi
Agent tayyorlaydi — inson hal qiladi. Toʻlov, hujjatni tashqariga joʻnatish, kadr buyrugʻi, sozlamalarni oʻzgartirish — bunday harakatlarni agent avtomatik bajarmaydi: qoralama tayyorlab, xodimning tasdigʻiga chiqaradi. Bu human-in-the-loop tamoyilini biz ishonch uchun majburiy deb hisoblaymiz: AI kundalik ishni olib tashlaydi, ammo qarorlar uchun masʼuliyat insonlarda qoladi.
Gallyutsinatsiyalarni qanday nazorat qilamiz
Xato qiladigan agent — bu ham xavfsizlik masalasi. Bu yerda uchta mexanizm ishlaydi. Birinchisi — izolyatsiyalangan bilimlar bazasi: har bir mijozning agenti faqat oʻsha mijozning hujjatlari va konfiguratsiyalarida oʻqitilgan va umumiy maʼlumotlardan «xayol surmaydi». Ikkinchisi — agent doimo solishtirib boradigan javoblarning oltin standarti. Uchinchisi — jonli qayta aloqa tsikli: standart foydalanuvchilar reaktsiyasi asosida muntazam yangilanadi, shuning uchun agent bilimlari kompaniya bilan birga rivojlanadi. Bu yondashuvni biz oʻz texnik qoʻllab-quvvatlashimizda sinovdan oʻtkazdik — va build-in-public birinchi sonida tasvirlab berdik.
Agent hech qachon nima qilmaydi
Sozlamalardan qatʼi nazar agent uchun arxitektura darajasida yopiq harakatlar bor: u hujjatlarga imzo chekmaydi, inson oʻrniga kelishmaydi, kirish huquqlarini oʻzgartirmaydi, tasdiqsiz maʼlumotlarni konturdan tashqariga joʻnatmaydi. Biz sehr emas, shaffoflik va nazoratni sotamiz — va aynan shu korporativ AI’ni eksperimentdan ajratib turadi deb hisoblaymiz.