AD

پنج چالش کلیدی برای ایمن سازی هوش مصنوعی

0 81

متخصصان هوش مصنوعی (Artificial-intelligence) معمولاً یکی از دو مکتب فکری را دنبال می‌کنند هوش مصنوعی یا زندگی ما را بسیار بهبود می‌بخشد یا همه ما را نابود می‌کند. به همین دلیل است که بحث پارلمان اروپا در این هفته در مورد چگونگی تنظیم فناوری بسیار مهم است. اما چگونه می‌توان هوش مصنوعی (AI) را ایمن کرد؟ در اینجا مقاله پنج مورد از چالش‌های پیش رو آورده شده است.

موافقت با چیستی هوش مصنوعی

پارلمان اروپا دو سال طول کشید تا تعریفی از یک سیستم هوش مصنوعی ارائه دهد به اینصورت که: نرم افزاری که می‌تواند برای مجموعه معینی از اهداف تعریف شده توسط انسان، خروجی‌هایی مانند محتوا، پیش بینی‌ها، توصیه‌ها یا تصمیماتی ایجاد کند که بر محیط‌هایی که آنها (انسان ها) با این محیط‌ها در تعامل هستند، تاثیر بگذارد .

این هفته، قانون هوش مصنوعی مورد رای گیری قرار می‌گیرد. اولین قوانین در مورد هوش مصنوعی، که شرکت‌ها ملزم به رعایت آن می‌شوند.

رسیدن به توافق جهانی

رئیس سابق دفتر هوش مصنوعی بریتانیا Sana Kharaghani اشاره می‌کند که این فناوری هیچ احترامی برای مرزها قائل نیست.

او به بی‌بی‌سی نیوز می‌گوید: ما باید در این زمینه همکاری بین‌المللی داشته باشیم و این سخت خواهد بود. این یک موضوع داخلی نیست. این فناوری‌ها در محدوده یک کشور قرار نمی‌گیرند.

اما هیچ طرحی برای تنظیم جهانی هوش مصنوعی به سبک سازمان ملل وجود ندارد. اگرچه برخی آن را پیشنهاد کرده‌اند و مناطق مختلف ایده‌های متفاوتی ارائه داده‌اند.

اتحادیه اروپا پیشنهادهای سختگیرانه تری مطرح کرده است که شامل درجه‌بندی محصولات هوش مصنوعی بسته به تأثیر آنها است برای مثال، فیلتر هرزنامه (اسپم) ایمیل.

ایالات متحده فقط دارای کدهای داوطلبانه است و قانونگذاران در جلسه اخیر کمیته هوش مصنوعی در مورد اینکه آیا آنها در این کار هستند یا خیر ابراز نگرانی کردند.

چین قصد دارد شرکت‌ها را وادار کند هر زمان که از الگوریتم هوش مصنوعی استفاده می‌شود به کاربران اطلاع دهند.

ایمن سازی هوش مصنوعی

تامین اعتماد عمومی

ژان مارک لکلرک، رئیس امور نظارتی و دولت اتحادیه اروپا در شرکت ماشین‌های تجاری بین‌المللی (IBM) می‌گوید: اگر مردم به هوش مصنوعی اعتماد کنند، از آن استفاده خواهند کرد.

فرصت‌های بسیار زیادی برای هوش مصنوعی وجود دارد تا زندگی مردم را به روش‌های باورنکردنی بهبود بخشد. این فرصت‌ها در حال حاضر می‌توانند این موارد باشند:

  • کمک به کشف آنتی بیوتیک‌ها
  • کمک به بهبود افراد فلج
  • پرداختن به مسائلی مانند تغییرات آب و هوا و بیماری‌های همه گیر

اما در مورد غربالگری متقاضیان کار یا پیش بینی میزان احتمال ارتکاب جرم توسط یک فرد به چه صورت عمل می‌کند، است؟

پارلمان اروپا از مردم می‌خواهد که در مورد خطرات محصولات هوش مصنوعی آگاهی کسب کنند.

شرکت‌هایی که قوانین مربوط به هوش مصنوعی را زیر پا بگذارند ممکن است بیش از 30 میلیون یورو یا 6 درصد از گردش مالی سالانه جهانی را جریمه کنند. اما آیا توسعه دهندگان می‌توانند نحوه استفاده از محصول خود را پیش بینی یا کنترل کنند؟

ایمن سازی هوش مصنوعی

صحبت‌های سم آلتمن، مدیر عامل OpenAI در برابر سنای ایالات متحده

اعتماد مردم به هوش مصنوعی

تصمیم گیری در مورد نویسندگان قوانین هوش مصنوعی

تا کنون، هوش مصنوعی تا حد زیادی قابلیت خود نظارتی داشته است. به گفته سام آلتمن، رئیس OpenAI خالق ChatGPT، شرکت‌های بزرگ می‌گویند که برای کاهش خطرات احتمالی بسیار مهم است با مقررات دولتی موافق هستند.

اما آیا در نوشتن قوانین، بیشتر منفعت مردم را در نظر می‌گیرند؟

و موسس Lastminute.com بارونس لین فاکس می‌گوید که فقط نباید شرکت‌ها را در نظر گرفت. او می‌گوید: «ما باید جامعه مدنی، دانشگاه‌ها، افرادی که تحت تأثیر این مدل‌ها و دگرگونی‌های مختلف هستند را در نظر بگیریم.

ایمن سازی هوش مصنوعی

داشتن عملکردی سریع

مایکروسافت که میلیاردها دلار در ChatGPT سرمایه‌گذاری کرده است، می‌خواهد AI سختی‌ را از کار بگیرد. هوش مصنوعی می‌تواند پاسخ‌های متنی و نثری شبیه انسان ایجاد کند، اما، آقای آلتمن اشاره می‌کند، که هوش مصنوعی یک ابزار است، نه یک موجود. قرار است چت بات‌ها باعث بهره وری بیشتر کارگران شوند. و در برخی از صنایع، هوش مصنوعی ظرفیت ایجاد شغل و دستیار بودن را دارد. اما ماه گذشته، BT  اعلام کرد که هوش مصنوعی جایگزین 10000 شغل خواهد شد.

ChatGPT کمی بیش از شش ماه پیش مورد استفاده عمومی قرار گرفت. اکنون می‌تواند انشا بنویسد، تعطیلات مردم را برنامه ریزی کند و امتحانات حرفه‌ای را پشت سر بگذارد. قابلیت این مدل‌های زبانی در مقیاس بزرگ با سرعتی خارق العاده در حال رشد است.

همچنین بخوانید: آیا ChatGPT امنیت دارد و می‌‌توان به این هوش مصنوعی محبوب اطمینان کرد

دو تن از سه “پدرخوانده” هوش مصنوعی، جفری هینتون و پروفسور یوشوا بنجیو، از جمله کسانی بودند که هشدار دادند این فناوری پتانسیل زیادی برای آسیب دارد.

مارگرت وستاگر، رئیس فناوری اتحادیه اروپا می‌گوید، قانون هوش مصنوعی حداقل تا سال 2025 اجرایی نخواهد شد و این بسیار دیر است.

او در کنار ایالات متحده در حال تدوین یک کد داوطلبانه موقت برای این بخش است که می‌تواند ظرف چند هفته آماده شود.

ایمن سازی هوش مصنوعی

ارسال یک پاسخ

آدرس ایمیل شما منتشر نخواهد شد.