دکتر جفری هینتون (Geoffrey Hinton)، پیشگام در حوزه هوش مصنوعی (AI) ، اخیراً با خروج از گوگل و بیان آشکار نگرانی های خود در مورد خطرات بالقوه هوش مصنوعی، خبرساز شده است. دکتر هینتون با نیم قرن سابقه کاری، نقشی حیاتی در توسعه فناوری هوش مصنوعی ایفا کرده است، از جمله کارهای اساسی در مورد ربات های گفتگوی محبوب مانند ChatGPT. با این حال، پدرخوانده هوش مصنوعی، گوگل را ترک می کند و در مورد خطر پیش رو هشدار می دهد و اکنون از این موضوع هراس دارد که پیشرفت سریع هوش مصنوعی می تواند عواقب جدی برای جامعه داشته باشد.
در سال 2012، دکتر جفری هینتون و دو تن از دانشجویان فارغ التحصیلش در دانشگاه تورنتو، یک فناوری پیشگامانه ایجاد کردند که پایه های فکری سیستم های هوش مصنوعی را که امروزه توسط غول های فناوری استفاده می شود، ایجاد کرد. نوآوری آنها به پایه ای برای هوش مصنوعی مولد تبدیل شد، فناوری که چت ربات های محبوبی مانند ChatGPT را تقویت می کند. کار دکتر هینتون به عنوان ابزاری در شکل دادن به آینده هوش مصنوعی مورد ستایش قرار گرفته است.
دکتر هینتون علیرغم نقش محوری خود در توسعه هوش مصنوعی، به گروه رو به رشدی از منتقدان پیوسته است که معتقدند شرکت‌ها با تعقیب تهاجمی خود برای محصولات مبتنی بر هوش مصنوعی با عجله به سمت قلمرو خطرناکی می‌روند. نگرانی در مورد خطرات احتمالی هوش مصنوعی باعث شده است که او بعد از گذراندن بیش از یک دهه، موقعیت خود را در گوگل ترک کند و آشکارا نگرانی های خود را در این زمینه بیان کند.
دکتر هینتون اذعان می‌کند که او از کار خود در زمینه هوش مصنوعی پشیمان بوده است، اما با این فکر که اگر او این حوزه تخصصی را دنبال نمی‌کرد، شخص دیگری این کار را می‌کرد خود را دلداری می‌دهد. نگرانی های او حول محور سوء استفاده بالقوه از هوش مصنوعی، فرسایش فرصت های شغلی و خطرات دراز مدت برای بشریت است.
یکی از نگرانی‌های فوری پیرامون هوش مصنوعی، پتانسیل تبدیل شدن به ابزاری برای اطلاعات نادرست است به این صورت که از هوش مصنوعی مولد می‌توان برای ایجاد عکس‌ها، فیلم‌ها و متن‌های جعلی متقاعدکننده استفاده کرد که برای افراد معمولی جامعه مشکل ساز می شود.
علاوه بر این، پیشرفت فناوری هوش مصنوعی می تواند منجر به جابجایی شغلی قابل توجهی شود. در حالی که چت ربات‌های کنونی مانند ChatGPT مکمل کارکنان انسانی هستند، این ربات‌ها این پتانسیل را دارند که جایگزین متخصصان در صنایع مختلف از جمله حقوقی، دستیاران شخصی و مترجمان شوند. دکتر هینتون ابراز نگرانی می کند که تأثیر هوش مصنوعی ممکن است به طور بالقوه بسیاری را بیکار کند.
از آنجایی که سیستم‌های هوش مصنوعی حجم وسیعی از داده‌ها را تجزیه و تحلیل می‌کنند، پتانسیل یادگیری رفتارهای غیرمنتظره را دارند. این امر به ویژه زمانی نگران‌کننده می‌شود که افراد و شرکت‌ها به سیستم‌های هوش مصنوعی اجازه می‌دهند نه تنها کد خود را تولید کنند، بلکه آن کد را به طور مستقل اجرا کنند.
این ایده که هوش مصنوعی می تواند از هوش انسانی پیشی بگیرد، زمانی یک احتمال دور در نظر گرفته می شد. با این حال، دکتر هینتون اکنون معتقد است که پیشرفت سریع فناوری هوش مصنوعی این چشم انداز را بیش از هر زمان دیگری نزدیک می کند. او نگرانی خاصی در مورد توسعه سلاح‌های واقعا خودمختار، که از آن به عنوان «ربات‌های قاتل» یاد می‌کند، ابراز می‌کند.
در پاسخ به خطرات بالقوه مرتبط با هوش مصنوعی، گروه ها و افراد مختلف خواستار مقررات و همکاری در این صنعت شده اند. OpenAI، یک استارت‌آپ مستقر در سانفرانسیسکو، نسخه جدیدی از ChatGPT را در اوایل سال جاری منتشر کرد که باعث شد بیش از 1000 رهبر و محقق فناوری نامه‌ای سرگشاده امضا کنند و از توقف شش ماهه توسعه سیستم‌های هوش مصنوعی جدید حمایت کنند. این نامه بر خطرات عمیقی که فناوری‌های هوش مصنوعی برای جامعه و بشریت ایجاد می‌کنند، تاکید می‌کند.
دکتر هینتون معتقد است که رقابت بین غول های فناوری مانند گوگل و مایکروسافت به یک مسابقه جهانی تبدیل خواهد شد که بدون نوعی مقررات جهانی نمی توان آن را متوقف کرد. با این حال، او اذعان می کند که تنظیم مقررات هوش مصنوعی ممکن است چالش برانگیز باشد، زیرا هیچ راهی برای تعیین اینکه آیا شرکت ها یا کشورها مخفیانه روی فناوری های بالقوه خطرناک هوش مصنوعی کار می کنند وجود ندارد.
برای رفع این نگرانی ها، دکتر هینتون معتقد است که دانشمندان برجسته در سرتاسر جهان باید برای توسعه روش هایی برای کنترل فناوری هوش مصنوعی قبل از افزایش بیشتر آن، همکاری کنند. او بر اهمیت درک نحوه کنترل موثر سیستم های هوش مصنوعی قبل از فراگیرتر شدن آنها در جامعه تاکید می کند.
