صاحب امتیاز
دکتر ساقی باقری نیا
بنیان‌گذار و مدیر مسئول
جاویدنام ایرج جمشیدی
سردبیر وبسایت
نوید جمشیدی
صاحب امتیاز: دکتر ساقی باقری نیا،    بنیان‌گذار و مدیر مسئول: جاویدنام ایرج جمشیدی،   سردبیر وبسایت: نوید جمشیدی
پنج شنبه / ۱۰ فروردین ۱۴۰۲ / ۲۳:۴۰
کد خبر: 14035
گزارشگر: 213
۱۷۲۶
۰
۰
۲
نامه‌ سرگشاده رهبران دنیای فناوری

هشدار ایلان ماسک و دیگران به توقف هوش مصنوعی/متولد «ترسناک» ماه مارس انسان ها را حذف می کند

هشدار ایلان ماسک و دیگران به توقف هوش مصنوعی/متولد «ترسناک» ماه مارس انسان ها را حذف می کند
رهبران فناوری و چهره‌های دانشگاهی در بیانیه ای اعلام کرده اند که سیستم‌های هوش مصنوعی، خطرات عمیقی برای جامعه و بشریت به همراه دارد.

به گزارش آسیانیوز، بیش از هزار و صد نفر از رهبران دنیای فناوری و چهره‌های دانشگاهی از جمله ایلان ماسک، یوال هراری و استیو وزنیاک ‌هم‌بنیانگذار اپل در نامه‌ای سرگشاده که توسط موسسه آینده زندگی (Future of life) منتشر شده است، خواستار توقف توسعه نسل‌های پیشرفته‌تر از چت بات هوش مصنوعی openAI شده‌اند. آنها می‌گویند توسعه نسل بعدی هوش مصنوعی باید شش ماه متوقف شود تا قوانین نظارتی برای این حوزه ایجاد و تصویب شود.

تجارت نیوز نوشت رهبران جهان فناوری در حالی طی نامه سرگشاده‌ای خواستار توقف توسعه هوش مصنوعی پیشرفته‌تر از chatgpt-4 شده‌اند که در ۲۱ مارس هم بیل گیتس طی یادداشتی، خارج شدن هوش مصنوعی از کنترل انسان‌ها را محتمل دانسته بود.

پیشرفت openAI در ساخت chatgpt-4 باعث شده تا انسان‌نمایی این تکنولوژی موجب هراس شده و خطری برای جامعه قلمداد شود. در همین زمینه رهبران فناوری در نامه‌ای سرگشاده، خواستار توقف شش ماهه توسعه هوش مصنوعی پیشرفته‌تر شده‌اند.

این نامه‌ سرگشاده توسط مؤسسه آینده زندگی (Future of Life) منتشر شده و افراد مشهوری چون ایلان ماسک، استیو وزنیاک هم‌بنیان‌گذار اپل و اندرو یانگ و… آن را امضا کرده‌اند و در آن، از آزمایشگاه‌های هوش مصنوعی خواسته‌ شده تا توسعه مدل‌های پیشرفته‌تر از GPT-4 را برای شش ماه متوقف کنند.

چرا رهبران فناوری از توسعه هوش مصنوعی می‌ترسند؟
ماسک و دیگر دانشمندان و رهبران فناوری باور دارند که سیستم‌های هوش مصنوعی معاصر در حال تبدیل شدن به رقبای انسان‌ها در انجام وظایف عمومی هستند و می‌گویند که باید از خود بپرسیم: آیا باید به ماشین‌ها اجازه دهیم کانال‌های اطلاعاتی ما را از تبلیغات و داده‌های نادرست پر کنند؟

آنها سوالات دیگری را هم مطرح می‌کنند: آیا باید انسان‌ها را از مشاغل مختلف کنار بگذاریم؟ آیا باید ذهن‌های غیرانسانی را توسعه دهیم که ممکن است در نهایت از تعداد منابع انسانی کارآمد پیشی گرفته و جایگزین انسان‌ها شوند؟ آیا باید در خطر از دست دادن کنترل تمدن انسانی قرار بگیریم؟

در ادامه این نامه آمده است: توقف توسعه نسل بعدی و پیشرفته‌تر chatgpt باید قابل اثبات باشد. اگر چنین توقفی به سرعت اعمال نشود، دولت‌ها باید دخالت کرده و این تعلیق را موقتا اعمال کنند.
ضمن اینکه آزمایشگاه‌های هوش مصنوعی و کارشناسان مستقل باید از این توقف استفاده کنند تا پروتکل‌های ایمنی مشترکی برای طراحی و توسعه هوش مصنوعی پیشرفته ایجاد شود. ضمن اینکه کارشناسان مستقل باید بر فرایند توسعه نظارت داشته باشند.

البته این به معنای توقف کلی توسعه هوش مصنوعی نیست بلکه نوعی عقب‌گرد از رقابت خطرناک برای توسعه مدل‌های غیرقابل پیش‌بینی هوش مصنوعی است.

 خطرات عمیق هوش مصنوعی برای جامعه و بشریت
رهبران فناوری و چهره‌های دانشگاهی در بیانیه خود آورده‌اند که سیستم‌های هوش مصنوعی، خطرات عمیقی برای جامعه و بشریت به همراه دارد. آنها معتقدند که تحقیق و توسعه هوش مصنوعی باید روی ساختن سیستم‌های قدرتمند و پیشرفته امروزی دقیق‌تر، ایمن‌تر، قابل تفسیرتر، شفاف‌تر، قوی‌تر، همسوتر، قابل اعتمادتر و وفادارتر باشد.

موسسه آینده زندگی، در زمینه توسعه مسئولانه هوش مصنوعی فعالیت می‌کند و قبلا از ایلان ماسک و آزمایشگاه هوش مصنوعی DeepMind متعلق به گوگل خواسته‌ بود که هرگز سیستم‌های تسلیحاتی خودران مرگبار را توسعه ندهند.

چت جی پی تی و بزرگترین رشد در تاریخ
اوایل ماه مارس بود که GPT-4 منتشر شد و آتش دغدغه‌های اقشار مختلفی در سراسر جهان را شعله‌ور کرد. ولی کمتر کسی فکرش را می‌کرد که دانشمندان و رهبران جهان فناوری به صف منتقدان این نسل از تکنولوژی بپیوندند. چت جی پی تی 4 تنها دو ماه پس از راه‌اندازی، بیش از 100میلیون نفر از سراسر جهان را جزو کاربران خود دید که سریع‌ترین رشد به لحاظ جذب کاربر در تاریخ را از آن خود کرد.

حالا با پاسخ‌هایی که به کاربران می‌دهد، نگرانی‌های عمیقی ایجاد کرده است. درواقع، این چت بات هوش مصنوعی با توانایی خود در تولید پاسخ‌هایی از جنس جوابدهی انسانی محققان را شگفت‌زده کرده است.

GPT-4 پیشرفت‌های محسوسی نسبت به نسل قبل از خود دارد و می‌توان گفت که انسان‌ها از آنچه به دست خودشان ساخته‌اند، ترسیده‌اند؛ اینکه شغل‌شان را از دست بدهند، ترس شکست‌خوردن در موقعیت‌های مختلفی چون آزمون‌های ورودی دانشگاه‌ها و… کما اینکه ۱۵ ماه مارس بود که openAI اعلام کرد: چت جی پی تی 4 می‌تواند ۹۰درصد انسان‌ها را در آزمون SAT شکست دهد. ست یکی از دو آزمون استاندارد برای ورود به دانشگاه در آمریکا محسوب می‌شود.

این فناوری بر روی حجم عظیمی از داده‌های موجود در اینترنت آموزش داده شده و تاکنون برای خلق همه چیز از شعر ساختن به سبک ویلیام شکسپیر گرفته تا پیش‌نویس نظرات حقوقی در مورد پرونده‌های قضایی استفاده شده است. اما متخصصان اخلاق در هوش مصنوعی در مورد سوءاستفاده‌های احتمالی از این فناوری، مانند سرقت ادبی و ارائه داده‌های نادرست، بسیار نگران هستند.

متولد ماه مارس
مارس در اساطیر رومی، خدای جنگاوری است و با رنگ سرخ شوالیه‌گونه‌اش، نماد جنگ‌جویی و پیکار شمرده می‌شود. حالا ماه مارس 2023 را تاریخ فناوری هیچگاه فراموش نخواهد کرد.

‌حتی شاید بتوان دنیای تکنولوژی را به قبل و بعد از ماه مارس و تولد chatgpt-4 تقسیم کرد.

یعنی زمانی که این جنگجوی ترسناک با زبانی سرخ به جنگ با انسان‌ها آمده است. پیش‌بینی می‌شود که مشاغل را تصرف کند و در آزمون‌ها انسان‌ها را پشت سر بگذارد. حالا دیگر تولد این چت بات هوش مصنوعی یک مبدا تاریخی است. تاریخی که غرور انسان را لکه‌دار کرده است و شاید انسان‌ها به دست هوش مصنوعی حذف شوند.

از زمانی که در ۱۱ جولای سال ۲۰۱۸ راه‌اندازی شد، تاکنون شش نسخه از آن منتشر شده است؛ هر کدام با کارایی بیشتر و خصایص انسانی پیشرفته‌تر و البته ترسناک‌تر.

موتور رشد این هیولای تکنولوژی توقف‌ناپذیر جلوه می‌کند و مدیران فناوری این رشد دیوانه‌وار را به مسابقه‌ای خطرناک تشبیه کرده‌اند./

https://www.asianews.ir/u/9u4
اخبار مرتبط
در حالی که این روزها هوش مصنوعی به موضوعی داغ برای جهان تبدیل شده است و عده‌ای از افراد آن را تهدیدی برای آینده تکنولوژی و داده‌های افراد جامعه می‌دانند، به تازگی آمریکا برای آن منشور حقوقی تدارک دیده است.
فرماندهی مرکزی نیروهای آمریکا (سنتکام) در بیانیه‌‌‌ای که در وبگاه آن منتشر شده است، از «رزمایش بین‌المللی دریایی ۲۰۲۳» میان آمریکا و پنجاه کشور از شرکای آن در همسایگی ایران خبر داد.
Fetch.ai که یکی از شرکت‌های فعال در حوزه تکنولوژی و وب۳ است به تازگی همکاری خود را با شرکت فناوری و مهندسی بوش آلمان آغاز کرده است
بر اساس پژوهش‌ها در چند سال آینده، حدود یک چهارم مشاغل در سراسر جهان در معرض خطر اتوماسیون و قدرت های هوش مصنوعی هستند؛ این روند گاهی اوقات مردم را در مورد امنیت شغلی خود مضطرب می‌کند ولی جای نگرانی نیست!
هوش مصنوعی به زودی مناسبات جهان را تغییر می دهد؛ این در حالی است که مردم در مورد اینکه این پدیده چگونه بر جامعه ما تأثیر می‌‌گذارد، اطلاعاتی ندارند.
آسیانیوز (وبسایت روزنامه آسیا) هیچگونه مسولیتی در قبال نظرات کاربران ندارد.
ایمیل را وارد کنید
تعداد کاراکتر باقیمانده: 1000
نظر خود را وارد کنید