آنچه بلوپرهای چت بات درباره آینده هوش مصنوعی فاش می کنند

چه تفاوتی هفت روز در دنیای هوش مصنوعی مولد است.

هفته گذشته ساتیا نادلا، مدیر عامل مایکروسافت، با خوشحالی به دنیا می گفت که موتور جستجوی جدید Bing با هوش مصنوعی «گوگل را وادار به رقصیدن کنید” با به چالش کشیدن تسلط طول، مدت خود در جستجوی وب.

بینگ جدید از یک چیز کوچک به نام استفاده می کند ChatGPT-شاید شما درباره آن شنیده باشید- که نشان دهنده جهش قابل توجهی در توانایی کامپیوترها برای مدیریت زبان است. به لطف پیشرفت در یادگیری ماشینی، اساساً خودش متوجه شد که چگونه می‌تواند با جمع ، تریلیون‌ها خط متن، که بیشتر آن از وب ،اشیده شده بود، به انواع سؤالات پاسخ دهد.

گوگل در واقع با اعلام Bard، پاسخش به ChatGPT و قول استفاده از این فناوری در نتایج جستجوی خود، به آهنگ ساتیا رقصید. بایدو، بزرگترین موتور جستجوی چین، گفت که روی فناوری مشابه کار می کند.

اما نادلا ممکن است بخواهد تماشا کند که پاهای فانتزی شرکتش به کجا می رسد.

که در دمویی که مایکروسافت هفته گذشته ارائه کرد، به نظر می رسید Bing قادر به استفاده از ChatGPT برای ارائه پاسخ های پیچیده و جامع به سوالات است. برنامه سفری به مکزی،یتی ارائه کرد، خلاصه‌های مالی تهیه کرد، توصیه‌هایی برای محصول ارائه کرد که اطلاعات را از بررسی‌های متعدد جمع‌آوری می‌کرد، و توصیه‌هایی در مورد اینکه آیا یک آیتم از مبلمان در یک مینی ون با مقایسه ابعاد منتشر شده در اینترنت قرار می‌گیرد یا خیر، ارائه کرد.

WIRED در طول راه‌اندازی مدتی فرصت داشت تا بینگ را آزمایش کند، و در حالی که به نظر می‌رسید در پاسخگویی به بسیاری از سوالات ماهر بود، به طور قطعی مشکل‌ساز بود و حتی نام خود را نامشخص دانست. و همانطور که یک کارشناس با چشم تیزبین متوجه شد، برخی از نتایجی که مایکروسافت نشان داد کمتر از آنچه در ابتدا به نظر می رسید تأثیرگذار بودند. به نظر می‌رسد که بینگ اطلاعاتی را در مورد برنامه سفری که تولید کرده است، ارائه می‌کند و برخی از جزئیات را که احتمالاً هیچ فردی از قلم نمی‌اندازد، حذف کرده است. موتور جستجو همچنین با اشتباه گرفتن حاشیه ناخالص با حاشیه ناخالص تعدیل نشده، نتایج مالی Gap را با هم مخلوط کرد – یک خطای جدی برای هر ،ی که برای انجام آنچه که ممکن است کار ساده خلاصه ، اعداد به نظر می رسد به ربات اعتماد کند.

مشکلات بیشتری در این هفته ظاهر شده است، زیرا Bing جدید در دسترس آزمایش کنندگان بتا بیشتری قرار گرفته است. به نظر می رسد شامل می شوند بحث با کاربر در مورد اینکه چه سالی است و تجربه یک بحران وجودی وقتی تحت فشار قرار گرفت تا احساسات خود را ثابت کند. ارزش بازار گوگل 100 میلیارد دلار کاهش یافته است پس از اینکه شخصی متوجه خطاهایی در پاسخ های ایجاد شده توسط Bard در ویدیوی آزمایشی شرکت شد.

چرا این غول های تکنولوژی چنین اشتباهاتی می کنند؟ این به روش عجیبی که ChatGPT و مدل‌های مشابه هوش مصنوعی واقعاً کار می‌کنند – و هیاهوی فوق‌العاده لحظه کنونی مربوط می‌شود.

چیزی که در مورد ChatGPT و مدل‌های مشابه گیج‌کننده و گمراه‌کننده است این است که آنها با حدس‌های بسیار دقیق به سؤالات پاسخ می‌دهند. ChatGPT آنچه را که فکر می‌کند باید بر اساس نمایش‌های آماری کاراکترها، کلمات و پاراگراف‌ها دنبال شود، ایجاد می‌کند. استارت‌آپ پشت ربات چت، OpenAI، مک،سم اصلی را برای ارائه پاسخ‌های رضایت‌بخش‌تر از طریق واداشتن انسان‌ها به ارائه بازخورد مثبت هر زمان که مدل پاسخ‌هایی درست به نظر می‌دهد، تقویت کرد.

ChatGPT می تواند چشمگیر و سرگرم کننده باشد، زیرا این فرآیند می تواند توهم درک را ایجاد کند، که می تواند برای برخی موارد استفاده به خوبی کار کند. اما همین فرآیند اطلاعات نادرست را “توهم” می کند، موضوعی که ممکن است یکی از مهم ترین چالش های فناوری در حال حاضر باشد.

هیاهو و انتظارات شدیدی که در اطراف ChatGPT و ربات های مشابه می چرخد، خطر را افزایش می دهد. وقتی استارتاپ‌هایی که بودجه خوبی دارند، برخی از با ارزش‌ترین شرکت‌های جهان و مشهورترین رهبران فناوری می‌گویند که چت‌بات‌ها چیز بزرگ بعدی در جستجو هستند، بسیاری از مردم آن را به ،وان انجیل در نظر می‌گیرند و باعث می‌شود ،، که این گفتگو را شروع کرده‌اند، دو برابر شوند. پیش بینی های بیشتر دانایی هوش مصنوعی نه تنها چت ربات ها می توانند با تطبیق الگو بدون بررسی واقعیت به بیراهه کشیده شوند.