۱- پاسخگویی

حکمرانی مؤثر مستلزم پاسخگویی است. این یک چالش ویژه برای هوش مصنوعی است، با توجه به اینکه معمولاً چندین طرف درگیر هستند و مشخص نیست معیارهای موفقیت چیست.

یک معیار کلیدی برای موفقیت سیستم های هوش مصنوعی، قدرت پیش بینی آنها است. توسعه‌دهندگان و مدیران برنامه‌ها معمولاً بر اساس میزان دقتی که سیستم می‌تواند پیش‌بینی کند، ارزیابی می‌شوند. با این حال، برنامه‌های هوش مصنوعی با بالاترین قدرت پیش‌بینی ممکن است از الگوریتم‌ها و تکنیک‌های جعبه سیاه استفاده کنند که باعث می‌شود سیستم‌ها کمتر شفاف و قابل توضیح باشند. به عبارت دیگر، سیستمی که در پیش بینی نتایج بهترین است ممکن است سایر اصول هوش مصنوعی را رعایت نکند.

حسابرسان برای ارزیابی اینکه آیا یک چارچوب حکمرانی مؤثر برای حمایت از پاسخگویی وجود دارد یا خیر، باید بررسی کنند که آیا فرآیندهایی وجود دارد تا به وضوح توضیح دهند که چه کسی برای بخش‌های مختلف هوش مصنوعی پاسخگو است یا خیر. آنها باید تعیین کنند که هر فرد در قبال چه چیزی مسئول است و همچنین اهدافی که باید با آن سنجش شوند چیست. به عنوان مثال، حسابرسان داخلی باید بررسی کنند که آیا نتایج (سیستم) با اصول هوش مصنوعی، مانند ایجاد یک الگوریتم هوش مصنوعی منصفانه و قوی مطابقت دارد یا خیر. آنها باید تعیین کنند که آیا مسئولیت های کارکنان به وضوح مشخص و مستند شده است، آیا واجد شرایط و آموزش دیده اند تا کار خود را انجام دهند، و شاخص های کلیدی عملکرد قابل اندازه گیری هستند و افراد را پاسخگو می کنند.