چالش‌های حکمرانی عامل‌های هوش مصنوعی در سازمان‌ها

بر اساس تحقیقات اخیر VentureBeat، سازمان‌ها برای پیاده‌سازی عامل‌های هوش مصنوعی جلوتر از ایجاد کنترل‌های لازم برای مدیریت آن‌ها حرکت کرده‌اند و حالا تلاش می‌کنند تا با استانداردهای خود هماهنگ شوند. این عدم هماهنگی موجب شده است که بسیاری از سازمان‌ها اکنون بودجه‌ای را برای تغییر یا افزودن فروشندگان جدید در نظر بگیرند.

نیازهای اساسی برای اعتماد به عامل‌ها

پنج کنترل اصلی برای اعتماد به عامل‌های هوش مصنوعی در سازمان‌ها عبارتند از: هویت، ارزیابی، تل‌متری هزینه، لایه زمینه و ارکستراسیون. هر کدام از این کنترل‌ها نقش مهمی در تضمین عملکرد صحیح و امن عامل‌ها دارند.

• هویت: مدیریت دسترسی عامل‌ها و اطمینان از اینکه هر عامل تنها با اعتبارنامه‌های مجاز فعالیت می‌کند.
• ارزیابی: بررسی کیفیت کار عامل‌ها و اطمینان از عملکرد صحیح آن‌ها.
• تل‌متری هزینه: ردیابی هزینه‌های اجرایی هر عامل.
• لایه زمینه: تأمین داده‌ها و تعاریف تجاری که عامل‌ها برای پاسخ‌گویی از آن‌ها استفاده می‌کنند.
• ارکستراسیون: هماهنگی عملیات چندمرحله‌ای عامل‌ها.

چالش‌های موجود در پیاده‌سازی عامل‌ها

بسیاری از عامل‌های پیاده‌سازی شده در واقع چت‌بات‌هایی هستند که به اشتباه به‌عنوان عامل‌های هوشمند معرفی می‌شوند. تنها ۱۰ درصد از سازمان‌ها اعلام کرده‌اند که عامل‌های واقعی بخش عمده‌ای از فعالیت‌های آن‌ها را تشکیل می‌دهند.

مشکلات امنیتی و اعتماد

بسیاری از سازمان‌ها به عامل‌ها اجازه می‌دهند تا از اعتبارنامه‌های مشترک استفاده کنند که این امر منجر به افزایش رخدادهای امنیتی شده است. همچنین، تنها ۵ درصد از سازمان‌ها به ارزیابی‌های خود اعتماد کامل دارند.

استفاده ناکافی از منابع سخت‌افزاری

بیش از ۸۰ درصد از سازمان‌ها گزارش داده‌اند که استفاده از GPUهای خود کمتر از ۵۰ درصد است. این نشان می‌دهد که تمرکز بر بهبود استفاده و هزینه‌های پردازش موجود باید در اولویت باشد.

راهکارهای پیشنهادی

با توجه به چالش‌های مذکور، سازمان‌ها باید به بهبود کنترل‌های خود بپردازند و از عامل‌های هوش مصنوعی واقعی استفاده کنند تا بتوانند از مزایای کامل هوش مصنوعی سازمانی بهره‌مند شوند.

برای کشف چگونگی بهره‌برداری از مزایای هوش مصنوعی سازمانی و مشاهده دموهای زنده، از شما دعوت می‌کنیم دموی پویا ایجنت را درخواست کنید و تجربه‌ای نوین در گزارش‌گیری مالی خودکار و تحلیل مالی با هوش مصنوعی داشته باشید.