واقعاً چه چیزی جفری هینتون را به یک نابودگر هوش مصنوعی تبدیل کرد


او می‌گوید: «بسیاری از سرفصل‌ها گفته‌اند که فکر می‌کنم اکنون باید متوقف شود – و من هرگز این را نگفته‌ام. اول از همه، من فکر نمی‌کنم این امکان پذیر باشد، و فکر می‌کنم باید به توسعه آن ادامه دهیم، زیرا می‌تواند کارهای فوق‌العاده‌ای انجام دهد. اما ما باید برای کاهش یا جلوگیری از پیامدهای بد احتمالی تلاش کنیم.»

هینتون می‌گوید او گوگل را برای اعتراض به مدیریت این نوع جدید از هوش مصنوعی ، نکرده است. در واقع، او می‌گوید، این شرکت با وجود داشتن پیشرو در منطقه، نسبتاً محتاطانه حرکت کرد. محققان گوگل نوعی شبکه عصبی به نام ترانسفورماتور اختراع ،د که برای توسعه مدل هایی مانند PalM و GPT-4 بسیار مهم بوده است.

در دهه 1980، هینتون، استاد دانشگاه تورنتو، همراه با تعداد انگشت شماری از محققان دیگر، به جای برنامه‌نویسی به روش‌های مرسوم، سعی ،د با آموزش شبکه‌های عصبی مصنوعی با داده‌ها، به رایانه‌ها هوش بیشتری بدهند. شبکه‌ها می‌توانند پی،ل‌ها را به‌،وان ورودی هضم کنند، و با مشاهده نمونه‌های بیشتر، مقادیر مرتبط با نورون‌های شبیه‌سازی‌شده‌شان را تنظیم کنند تا زم، که سیستم بتواند محتوای یک تصویر را تشخیص دهد. این رویکرد در طول سال‌ها امیدبخش بود، اما تا یک دهه پیش بود که قدرت و پتانسیل واقعی آن آشکار شد.

در سال 2018، هینتون جایزه تورینگ، معتبرترین جایزه در علوم کامپیوتر را برای کارش در شبکه های عصبی دریافت کرد. او به همراه دو چهره پیش،وت دیگر این جایزه را دریافت کرد. یان ل،، دانشمند ارشد هوش مصنوعی متا و جاشوا بنجیو، استاد دانشگاه مونترال.

در آن زمان بود که نسل جدیدی از شبکه‌های عصبی مصنوعی چندلایه – که مقادیر زیادی از داده‌های آموزشی را تغذیه می‌،د و بر روی تراشه‌های رایانه‌ای قدرتمند اجرا می‌شدند – ناگهان در بر،ب‌گذاری محتوای ع،‌ها به مراتب بهتر از هر برنامه موجود بود.

این تکنیک که به ،وان یادگیری عمیق شناخته می‌شود، یک رنسانس در هوش مصنوعی را آغاز کرد و شرکت‌های فناوری بزرگ برای استخدام کارشناسان هوش مصنوعی، ساخت الگوریتم‌های یادگیری عمیق قوی‌تر و استفاده از آن‌ها در محصولاتی مانند تشخیص چهره، ترجمه و تشخیص گفتار عجله ،د.

گوگل هینتون را در سال 2013 پس از تصاحب شرکت او، DNNResearch، که برای تجاری سازی ایده های یادگیری عمیق آزمایشگاه دانشگاهش تاسیس شده بود، استخدام کرد. دو سال بعد، یکی از دانش‌آموزان هینتون که به گوگل نیز پیوسته بود، ایلیا سوتسکور، شرکت جستجو را ، کرد تا OpenAI را به ،وان وزنه‌ای غیرانتفاعی در مقابل قدرتی که شرکت‌های فناوری بزرگ در هوش مصنوعی جمع‌آوری می‌کنند، تأسیس کند.

از زمان آغاز به کار، OpenAI روی افزایش اندازه شبکه‌های عصبی، حجم داده‌هایی که از آن‌ها استفاده می‌کنند و قدرت رایانه‌ای که مصرف می‌کنند تمرکز کرده است. در سال 2019، این شرکت به ،وان یک شرکت انتفاعی با سرمایه گذاران خارجی سازماندهی مجدد شد و بعداً 10 میلیارد دلار از مایکروسافت گرفت. این مجموعه یک سری از سیستم‌های تولید متن بسیار روان را توسعه داده است، که اخیراً GPT-4 است، که نسخه برتر ChatGPT را تقویت می‌کند و محققان را با توانایی خود در انجام وظایفی که به نظر می‌رسد نیاز به استدلال و عقل سلیم دارند، شگفت‌زده کرده است.

هینتون معتقد است که ما در حال حاضر فناوری ای داریم که مخل و ​​بی ثبات کننده خواهد بود. او به این خطر اشاره می‌کند، همانطور که دیگران انجام داده‌اند، که الگوریتم‌های زب، پیشرفته‌تر بتوانند کمپین‌های اطلاعات غلط پیچیده‌تری به راه بیندازند و در انتخابات دخالت کنند.


منبع: https://www.wired.com/story/geoffrey-hinton-ai-chatgpt-dangers/