خطر نادیده گرفتن «هوش مصنوعی مسئولیت‌پذیر» دیگر قابل اغماض نیست

به قلم : دکتر سیدوفا مشکوة

​​​

اگرچه کسب‌وکارها از نیاز به هوش مصنوعی مسئولیت‌پذیر آگاهند، اما بسیاری آن را امری ثانویه یا جریان کاری جداگانه می‌دانند.

هوش مصنوعی مسئولیت‌پذیر، خط مقدم دفاع در برابر ریسک‌های جدی قانونی، مالی و اعتباری است.

این موضوع به‌ویژه در درک و توضیح «تبار داده‌های هوش مصنوعی» از اهمیت بالایی برخوردار است.

سناریوی ایده‌آل، تعبیه روش‌های مدیریت داده‌های مطمئن از همان ابتدای کار است.

اگرچه کسب‌وکارها از نیاز به هوش مصنوعی مسئولیت‌پذیر آگاهند، اما بسیاری آن را امری ثانویه یا جریان کاری جداگانه می‌دانند.

هوش مصنوعی مسئولیت‌پذیر، خط مقدم دفاع در برابر ریسک‌های جدی قانونی، مالی و اعتباری است.

این موضوع به‌ویژه در درک و توضیح «تبار داده‌های هوش مصنوعی» از اهمیت بالایی برخوردار است.

سناریوی ایده‌آل، تعبیه روش‌های مدیریت داده‌های مطمئن از همان ابتدای کار است.

تصور کنید تیم محصول، یک قابلیت انقلابی را در کمترین زمان ممکن توسعه داده و از یک مدل هوش مصنوعی برای تسریع تحقیق و طراحی استفاده کرده است.

اما در پشت صحنه، ممکن است این مدل با داده‌های انحصاری که متعلق به شرکت شما نیستند، آموزش دیده باشد.

بدتر آنکه تیم توسعه‌دهنده ممکن است حتی نداند مدل از چه داده‌هایی استفاده کرده یا شرایط مجاز استفاده از آن را به‌طور کامل درک نکرده باشد.

این عدم وضوح می‌تواند به سرعت به یک تهدید قانونی تبدیل شود.

آنچه نوآوری به نظر می‌رسید، اکنون ممکن است به یک دعوای حقوقی مالکیت هوشمند منجر شود که هزینه‌های مالی سنگینی دارد و اعتماد مشتریان را از بین می‌برد.

این سناریو دور از ذهن نیست و با گسترش سریع استفاده از هوش مصنوعی، هشداری است درباره اهمیت روزافزون هوش مصنوعی مسئولیت‌پذیر.

بسیاری از مدل‌های زبان بزرگ رایج، اعم از تجاری یا متن‌باز، با حجم عظیمی از داده‌ها آموزش دیده‌اند که ممکن است انحصاری یا دارای محدودیت استفاده باشند.

منبع این داده‌ها می‌تواند وبسایت‌های شرکتی، ژورنال‌های آکادمیک، مخازن متن‌باز با مجوزهای محدودکننده، یا پلتفرم‌های رسانه‌های اجتماعی حاوی داده‌های شخصی باشد.

در دسترس بودن گسترده این مدل‌ها از فروشندگان معتبر، این تصور غلط را ایجاد می‌کند که استفاده از آن‌ها هیچ ریسک قانونی به همراه ندارد.

شرکت‌ها به ندرت این سوال را مطرح می‌کنند که داده‌های درون مدل‌ها از کجا آمده و آیا استفاده از آن‌ها به روش مورد نظرشان از نظر قانونی مجاز است یا خیر.

با این حال، اگرچه استفاده از خود هوش مصنوعی قانونی است، اما اغلب داده‌هایی که روی آن آموزش دیده است، برای استفاده تجاری مجاز نیستند.

وقتی کسب‌وکارها از این داده‌ها برای طراحی محصول جدید، تولید محتوای بازاریابی یا ساخت یک برنامه کاربردی برای مشتریان استفاده می‌کنند، ممکن است ناخواسته خود را در معرض پیگرد قانونی قرار دهند.

این تهدیدات قانونی ممکن است مدتها پس از استقرار نوآوری مبتنی بر هوش مصنوعی آشکار شوند.

بنابراین، هوش مصنوعی مسئولیت‌پذیر نباید تنها به تیم حقوقی یا دفتر انطباق محول شود.

آنچه در نگاه اول یک دستاورد به نظر می‌رسد، می‌تواند به دلیل بیتوجهی به تبار داده‌ها، به یک بحران جدی تبدیل شود./پایان مطلب