هوش مصنوعی غیرقابل کنترل
پروفسور استوارت راسل (Professor Stuart Russell) همراه با بیش از 1000 متخصص دیگر اخیرا نامه‌ای امضا کرده‌اند و گفته اند که هوش مصنوعی غیرقابل کنترل است و در این نامه خواستار توقف در توسعه سیستم‌های هوش مصنوعی، حتی فناوری‌هایی که از GPT-4 OpenAI و ChatGPT توانمندتر هستند، شده‌اند.
این پروفسور، یک دانشمند بریتانیایی است که به‌خاطر مشارکت‌هایش در هوش مصنوعی شهرت زیادی دارد. او به اسکای نیوز چنین گفته است که سیستم‌های قدرتمند هوش مصنوعی غیرقابل کنترل و «در حال حاضر باعث آسیب می‌شوند».
این پروفسور یکی از 1000 متخصصی بود که ماه گذشته نامه‌ای را امضا کرده تا خواستار توقف شش ماهه در توسعه سیستم‌های هوش مصنوعی شاملGPT-4 که تازه راه‍اندازی شده است، شود. پروفسور راسل در گفتگو با Sky’s Sophy Ridge در مورد این نامه گفت: “من آن را امضا کردم زیرا فکر می‌کنم باید بیان شود که ما نمی‌دانیم این سیستم‌های قوی‌تر چگونه کار می‌کنند. ما نمی‌دانیم که آنها چه توانایی‌هایی دارند. این بدان معناست که ما نمی‌توانیم آنها را کنترل کنیم.”
او استدلال کرد که برای پیشرفت سریع هوش مصنوعی، زمان لازم است تا ” مقررات مطمئنی که باعث می‌شوند این سیستم‌ها به جای مضر برای مردم مفید باشند اجرا شوند”.
او گفت که یکی از بزرگترین نگرانی‌ها درمورد اطلاعات نادرست و جعلی است. برای مثال، فیلم‌ها یا عکس‌هایی از شخصی که در آن صورت یا بدنش به‌صورت دیجیتالی تغییر داده شده، طوری که به نظر می‌رسد شخص دیگری است. چنین محتوایی معمولا به‌صورت مخرب یا برای انتشار اطلاعات نادرست استفاده می‌شود.
این متخصص، که استاد علوم کامپیوتر در دانشگاه کالیفرنیا، برکلی است، هشدار داد که “تاثیر شدید این سیستم‌ها بدتر خواهد بود، به این صورت که آنها می‌توانند افراد را به روش‌هایی که آنها حتی نمی‌دانند، کنترل کنند.” درادامه این پروفسور درمورد نامه امضا شده اینگونه بیان کرده است که: ” این نگرانی نامه در واقع در مورد نسل بعدی سیستم هوش مصنوعی است. در حال حاضر سیستم‌ها محدودیت‌هایی در توانایی خود برای ساختن طرح‌های پیچیده دارند.”
