AD

OpenAI نمی‌تواند تشخیص دهد که یک متن توسط هوش مصنوعی نوشته شده است یا توسط یک انسان!

0 114

OpenAI ابزاری را که قرار بود نوشته‌های انسان را از هوش مصنوعی تشخیص دهد، به دلیل نرخ دقت پایین، تعطیل کرد. در یک وبلاگOpenAI  گفت که تصمیم گرفته است تا کلاسیفایر (طبقه بندی کننده) هوش مصنوعی خود را از 20 جولای پایان دهد. این شرکت گفت: ما در حال کار روی ترکیب فیدبک‌ها و در حال تحقیق در مورد تکنیک‌های موثرتر برای متن هستیم.

OpenAI گفت که قصد دارد مکانیسم‌هایی را توسعه دهد و به کار ببرد که کاربران را قادر سازد بفهمند آیا محتوای صوتی یا بصری تولید شده توسط هوش مصنوعی است یا خیر. با این حال، هنوز درباره این مکانیسم‌ها صحبتی نشده است.

OpenAI به طور کامل اعتراف کرد که طبقه‌بندی‌کننده هرگز در تشخیص دادن متن‌های تولید شده با هوش مصنوعی خوب نبوده و هشدار داد که می‌تواند موارد کاذبی وجود داشته باشد که به صورت متون نوشته شده توسط انسان برچسب‌گذاری شده است.  OpenAI، قبل از اینکه به‌روزرسانی خود را برای خاموش کردن ابزار اضافه کند، گفت که طبقه‌بندی کننده می‌تواند با داده‌های بیشتر بهتر شود.

پس از اینکه ChatGPT مربوط به OpenAI وارد صحنه شد و به یکی از سریع‌ترین برنامه‌های در حال رشد تبدیل شد، مردم برای درک این فناوری تلاش کردند. چندین بخش در حوزه متن و هنر تولید شده توسط هوش مصنوعی هشدار دادند، به ویژه معلمانی که نگران بودند دانش آموزان دیگر درس نخوانند و فقط از طریق ChatGPT تکالیف خود را بنویسند. مدارس نیویورک حتی دسترسی به ChatGPT را در محوطه مدرسه به دلیل نگرانی در مورد دقت، ایمنی و تقلب ممنوع کردند.

اطلاعات نادرست از طریق هوش مصنوعی نیز نگران‌کننده بوده است، زیرا مطالعات نشان می‌دهد متن‌های تولید شده توسط هوش مصنوعی، مانند توییت‌ها، ممکن است قانع‌کننده‌تر از نوشته‌های انسان باشد. دولت‌ها هنوز متوجه نشده‌اند که چگونه هوش مصنوعی را مهار کنند و تا کنون، تنظیم قوانین و اقدامات حفاظتی خود را برای مقابله با هجوم متن‌های تولید شده توسط رایانه به گروه‌ها و سازمان‌ها واگذار کرده‌اند؛ به نظر می‌رسد که در حال حاضر، هیچ کس، حتی شرکتی که در وهله اول به شروع هوش مصنوعی کمک کرد، پاسخی در مورد چگونگی مقابله با همه اینها را ندارد. با این شرایط تشخیص کار انسانی از هوش مصنوعی دشوارتر می‌شود.

OpenAI همچنین اخیراً اعتماد خود را از دست داده است و کمیسیون تجارت فدرال در حال بررسی OpenAI است تا ببیند چگونه اطلاعات و داده‌ها را بررسی می‌کند.

ارسال یک پاسخ

آدرس ایمیل شما منتشر نخواهد شد.