حکمرانی هوش مصنوعی در سازمان‌ها؛ از تعیین حدود اختیار تا حفظ مهارت کارکنان

معاون سیاست‌گذاری، برنامه‌ریزی توسعه فاوا و اقتصاد دیجیتال با تأکید بر ضرورت بازطراحی همکاری میان انسان و هوش مصنوعی در سازمان‌ها، تعیین حدود اختیار عامل‌های هوشمند، حفظ فرصت یادگیری کارکنان و ایجاد سازوکارهای شفاف پاسخ‌گویی را از پیش‌شرط‌های توسعه کاربرد این فناوری در محیط‌های کاری دانست.

احسان چیت‌ساز در بیست‌ویکمین کنفرانس بین‌المللی توسعه منابع انسانی، در سخنرانی با عنوان «از HRM تا AIM؟ حکمرانی همکاری انسان و عامل هوش مصنوعی در سازمان»، ورود عامل‌های هوشمند به جریان‌های کاری را موضوعی فراتر از خرید و استقرار فناوری عنوان کرد.

وی گفت: پیش از واگذاری اختیار اقدام به یک عامل هوشمند باید مشخص شود این عامل به چه داده‌هایی دسترسی دارد، تا چه سطحی می‌تواند به‌صورت مستقل تصمیم یا اقدام کند، در چه نقاطی به تأیید انسان نیاز دارد و در چه شرایطی باید فعالیت آن متوقف شود.

چیت‌ساز با اشاره به یک سناریوی استخدامی توضیح داد: اگر یک عامل هوشمند مسئول بررسی رزومه‌ها و رتبه‌بندی متقاضیان باشد، باید مشخص شود آیا اختیار ارسال مستقیم نامه رد استخدام را نیز خواهد داشت یا خیر. پاسخ به این پرسش تنها به دقت مدل وابسته نیست، بلکه اعتبار معیارهای ارزیابی، پیامد تصمیم برای متقاضی، امکان بازبینی و مسئولیت رسیدگی به خطا نیز باید در طراحی فرایند لحاظ شود.

معاون سیاست‌گذاری، برنامه‌ریزی توسعه فاوا و اقتصاد دیجیتال با اشاره به یافته‌های پژوهشی درباره همکاری انسان و هوش مصنوعی افزود: این فناوری در برخی وظایف می‌تواند بهره‌وری را افزایش دهد و دسترسی کارکنان کم‌تجربه به دانش حرفه‌ای را تسهیل کند، اما نتیجه این همکاری به نوع وظیفه، قابلیت مدل و نحوه تقسیم کار میان انسان و هوش مصنوعی بستگی دارد و صرف کنار هم قرار گرفتن انسان و عامل هوشمند، به‌تنهایی تضمین‌کننده عملکرد بهتر نیست.

وی همچنین بر ضرورت ارزیابی مستقل خروجی‌های تولیدشده توسط عامل‌های هوشمند تأکید کرد و گفت: روان و منسجم بودن یک پاسخ نباید با درست بودن آن اشتباه گرفته شود. سازمان‌ها باید در کنار سرعت انجام کار، شاخص‌هایی مانند خطاهای پرهزینه، میزان بازکاری، عدالت در تصمیم‌گیری و حفظ توانایی قضاوت مستقل کارکنان را نیز ارزیابی کنند.

 منابع انسانی؛ معمار همکاری انسان و عامل

چیت‌ساز نقش واحدهای منابع انسانی را در بازطراحی همکاری میان انسان و عامل‌های هوشمند محوری دانست و اظهار کرد: تحلیل مشاغل در عصر عامل‌های هوشمند باید علاوه بر وظایف، فعالیت‌ها، نقاط تصمیم‌گیری و حدود اختیار انسان و عامل را نیز مشخص کند.

وی ادامه داد: برنامه‌های توسعه کارکنان نباید صرفاً بر آموزش نحوه استفاده از ابزارهای هوش مصنوعی متمرکز باشد، بلکه باید فرصت تمرین مستقل، تشخیص خطا و توضیح استدلال نیز برای کارکنان حفظ شود تا توانمندی حرفه‌ای و قدرت قضاوت انسانی در فرایندهای سازمانی تضعیف نشود.

معاون سیاست‌گذاری، برنامه‌ریزی توسعه فاوا و اقتصاد دیجیتال با معرفی چارچوب پیشنهادی «پیمان» برای سامان‌دهی همکاری انسان و عامل هوش مصنوعی، پنج مؤلفه «پاسخ‌گویی معلوم، یادگیری و سلامت مهارت، مرز اختیار، ارزیابی اثر و نمایندگی کارکنان» را به‌عنوان اجزای این چارچوب برشمرد.

به گفته وی، این چارچوب زمانی می‌تواند در سازمان‌ها به‌صورت عملیاتی مورد استفاده قرار گیرد که به تصمیم‌های مشخص و قابل‌پیگیری منجر شود؛ از جمله تعیین فرد یا واحد پاسخ‌گو، سطح دسترسی‌های مجاز، معیار پذیرش خروجی و مسیر رسیدگی به اعتراض و خطا.

چیت‌ساز همچنین پیشنهاد کرد هر عامل هوشمند پیش از دریافت اختیار اقدام، دارای یک «شناسنامه» مشخص باشد. این شناسنامه باید مأموریت عامل، مسئول پاسخ‌گو، حدود دسترسی، شرایط تأیید و توقف فعالیت و زمان بازبینی عملکرد آن را تعیین کند.

سیاست‌سنجی با دوقلوی دیجیتال

معاون سیاست‌گذاری، برنامه‌ریزی توسعه فاوا و اقتصاد دیجیتال در بخش دیگری از سخنان خود از طراحی یک دوقلوی دیجیتال با قابلیت سیاست‌سنجی خبر داد و تغییر سطح اختیار عامل‌های هوشمند را یکی از موضوعاتی دانست که می‌توان آثار آن را پیش از اجرای واقعی مورد بررسی قرار داد.

وی توضیح داد: چنین رویکردی می‌تواند امکان بررسی سناریوهای مختلف سیاستی را پیش از اجرای آنها فراهم کند. برای نمونه، می‌توان بررسی کرد افزایش سطح اختیار یک عامل هوشمند چه اثری بر کیفیت تصمیم‌گیری، یادگیری کارکنان و میزان پاسخ‌گویی سازمان خواهد داشت.

چیت‌ساز تأکید کرد نتایج سیاست‌سنجی باید در کنار فرض‌ها، داده‌های مورد استفاده و محدودیت‌های مدل تفسیر شود و ارزیابی آثار واقعی سیاست‌ها پس از اجرا نیز ادامه پیدا کند.

*بازنویسی: تحریریه پژواک کارفرما