دغدغه های پدرخوانده هوش مصنوعی در خصوص خطرات آن، از کنترل داشتن روی فناوری مطمئن شوید - موسیقی با امیر

به گزارش موسیقی با امیر، جفری هینتون در پشت بعضی از پیشرفت های کلیدی در ابزار های تقویت هوش مصنوعی مانند چت جی پی تی است و به عنوان پدرخوانده این علم شناخته می گردد اکنون نگرانی های خود را در خصوص قدرت این علم بیان نموده است.

به گزارش فارس، جفری هینتون 75 ساله با استعفا از گوگل به عنوان پدرخوانده هوش مصنوعی اعلام نموده از کاری که زندگی خود را وقف آن نموده پشیمان است، زیرا هوش مصنوعی می تواند مورد سوء استفاده قرار گیرد.

هینتون در مصاحبه ای با نیویورک تایمز که روز دوشنبه منتشر شد، گفت که به سختی می توان جلوی بازیگران بد را در این زمینه گرفت تا دست به اقدامات خرابکارانه نزنند و او با این افکار که اگر من به پیشرفت هوش مصنوعی یاری نمی کردم دیگری اینکار را انجام می داد خود را دلداری می دهد.

هینتون سال ها را در دانشگاه گذراند تا اینکه در سال 2013 به گوگل ملحق شد. او به تایمز گفت که گوگل برای نحوه استقرار هوش مصنوعی مدیریت مناسب داشته و این غول فناوری به سهم خود مسئولانه عمل نموده است.

به گفته وی، یکی از دغدغه های اصلی او این است که دسترسی آسان به هوش مصنوعی ابزار های فراوری متن و تصویر چگونه می توانند منجر به ایجاد محتوای جعلی یا تقلبی بیشتری شوند و یک فرد معمولی دیگر قابلیت تشخیص بین درست و نادرست را نخواهد داشت.

وی معتقد است که هوش مصنوعی مولد می تواند ابزاری برای اطلاعات غلط باشد و به زودی، برای مشاغل خطر ایجاد می نماید.

نگرانی ها پیرامون هوش مصنوعی

نگرانی های پیرامون استفاده نادرست از هوش مصنوعی به واقعیت تبدیل شده اند. زیرا تصاویر جعلی مختلفی با استفاده از هوش مصنوعی فراوری شده اند برای مثال چند هفته پیش تصاویر جعلی پاپ فرانسیس با یک ژاکت پفی سفید در فضای مجازی منتشر شد.

همانطور که شرکت هایی مانند اپن ای آی، گوگل و مایکروسافت روی ارتقای هوش مصنوعی خود کار می نمایند، همچنان درخواست های فزاینده ای برای کاهش سرعت پیشرفت های نو وجود دارد. بعضی از نام های برتر صنعت فناوری، از جمله استیو وازنیک، بنیان گذار اپل و ایلان ماسک طی نامه ای در ماه مارس (اسفند و فروردین)، خواهان ممنوعیت توسعه هوش مصنوعی پیشرفته شدند. هینتون نامه را امضا نکرد، اگرچه او معتقد است که شرکت ها باید قبل از توسعه بیشتر فناوری هوش مصنوعی در خصوص آن تامل نموده و از اینکه توانایی کنترل این فناوری را دارند اطمینان حاصل نمایند.

هینتون بعلاوه نگران این است که هوش مصنوعی می تواند با بی ربط کردن مشاغل غیر فنی، بازار کار را تغییر دهد. وی هشدار داد که این فناوری توانایی آسیب رساندن به انواع بیشتری از نقش ها را نیز دارد.

جف دین، دانشمند ارشد گوگل در بیانیه ای به فورچون گفت: جفری پیشرفت های اساسی در هوش مصنوعی داشته است و ما از یک دهه مشارکت او در گوگل قدردانی می کنیم. اصول، ما به رویکردی مسئولانه نسبت به هوش مصنوعی متعهد هستیم. ما به طور مداوم در حال آنالیز خطرات در حال ظهور هستیم و در عین حال جسورانه دست به نوآوری می زنیم.

شروع فعالیت هینتون

هینتون در سال 1972 کار خود را به عنوان دانشجوی کارشناسی ارشد در دانشگاه ادینبورگ شروع کرد. از آنجا بود که برای اولین بار کار روی شبکه های عصبی را شروع کرد. این شبکه ها مدل های ریاضی هستند که تقریباً عملکرد مغز انسان را تقلید می نمایند و قادر به تجزیه و تحلیل حجم وسیعی از داده ها هستند.

تحقیقات شبکه عصبی او مفهوم پیشرفت شرکتی بود که او با دو تن از شاگردانش ساخت که در نهایت گوگل آن را در سال 2013 خرید. هینتون جایزه تورینگ 2018 (معادل جایزه نوبل در دنیای محاسبات) را به همراه دو نفر از همکاران خود برای تحقیقات در زمینه شبکه های عصبی که منجر به توسعه فناوری هایی از جمله چت جی پی تی و گوگل بارد شد دریافت کرد.

هینتون به عنوان یکی از متفکران کلیدی در هوش مصنوعی، لحظه کنونی را سرشار از فرصت می بیند. وی در مصاحبه ای با سی بی اس در ماه مارس گفت که معتقد است نوآوری های هوش مصنوعی از توانایی ما برای کنترل آن پیشی می گیرند و این باعث نگرانی است.

هینتون معتقد است که ما به داشتن رایانه هایی نزدیک هستیم که بتوانند ایده هایی برای بهبود خود ارائه دهند و اگر هوش مصنوعی بتواند کد برنامه هایش را بنویسد و خود آن را اجرا کند به انقراض بشریت نزدیک می شویم.