وقتی چت بات ها وحشی می شوند، چه کسی را باید باور کنید؟

در سال 1987، مدیرعامل وقت جان اسکالی، از شرکت اپل کامپیوتر، چشم اندازی را معرفی کرد که امیدوار بود میراث او را به ،وان چیزی بیش از یک تامین کننده سابق نوشابه تثبیت کند. او در کنفرانس EDUCOM، یک سخنر، را ارائه کرد ویدیوی 5 دقیقه ای 45 ث،ه ای محصولی که بر اساس ایده هایی است که او در زندگی نامه خود سال قبل ارائه کرده بود. (آلن کی، دانشمند کامپیوتر، که در آن زمان در اپل کار می کرد، بسیار مطلع شدند.) اسکالی آن را ناوبر دانش نامید.

ویدیو یک است دو دستی پخش. شخصیت اصلی یک استاد دانشگاه UC Berkeley است. دیگری یک ربات است که در درون چیزی زندگی می کند که ما اکنون آن را تبلت تاشو می نامیم. ربات در ظاهر انسان – مرد جو، با پاپیون – در پنجره ای روی صفحه نمایش قرار گرفته است. بیشتر ویدیو شامل گفتگوی پروفسور با ربات است، که به نظر می رسد به یک فروشگاه بزرگ از دانش آنلاین، مجموعه تحقیقات انس،، و همچنین تمام اطلاعات شخصی استاد دسترسی دارد – تا حدی که می تواند استنباط کند. نزدیکی نسبی روابط در زندگی استاد.

هنگامی که اقدام شروع می شود، پروفسور با تأخیر در حال آماده ، سخنر، بعد از ظهر آن روز در مورد جنگل زدایی در آمازون است، کاری که تنها به این دلیل امکان پذیر شد که ربات بیشتر کار را انجام می دهد. این تحقیق جدید را فرا می‌خواند – و سپس با دستور استاد بیشتر به بررسی می‌پردازد – و حتی فعالانه با همکار خود تماس می‌گیرد تا بتواند بعداً او را به جلسه دعوت کند. (او به حقه های او ادامه می دهد، اما موافقت می کند.) در همین حال، ربات به طور دیپلماتیک به پروفسور کمک می کند تا از مادر آزرده خود اجتناب کند. در کمتر از شش دقیقه همه چیز آماده است، و او برای یک ناهار قبل از سخنر، بیرون می آید. این ویدئو نمی تواند پیش بینی کند که این ربات ممکن است روزی در یک ابر رایانه جیبی ظاهر شود.

در اینجا مواردی وجود دارد که در آن فیلم پرنعمت درباره آینده اتفاق نیفتاده است. ربات به طور ناگه، عشق خود را به استاد ابراز نکرد. تهدیدی برای از هم پاشیدن ازدواج او نبود. به پروفسور هشدار نداد که این قدرت را دارد که در ایمیل‌های او کاوش کند و تخلفات شخصی او را افشا کند. (فقط می‌د،د که خودشیفتگی دانش‌آموز فارغ‌التحصیل خود را بداخلاق می‌کرد.) در این نسخه از آینده، هوش مصنوعی کاملاً خوش‌خیم است. به طور مسئولانه اجرا شده است.

سرعت ساعت را 36 سال به جلو ببرید. مایکروسافت به تازگی یک جست و جوی اصلاح شده Bing با رابط چت بات را اعلام کرده است. این یکی از چندین نقطه عطف در چند ماه گذشته است که ورود برنامه های هوش مصنوعی را نشان می دهد که به ،وان شرکای مکالمه دانای کل، اگر نگوییم کاملاً قابل اعتماد ارائه شده اند. بزرگ‌ترین آن رویداد، انتشار کلی ChatGPT چشمگیر استارت‌آپ OpenAI بود که تکالیف خانه را به تنهایی نابود کرد (شاید). OpenAI همچنین موتور بینگ جدید را که توسط فناوری مایکروسافت به نام Pro،eus تعدیل می‌شود، ارائه کرد. نتیجه نهایی یک ربات چت است که تعامل دادن و گرفتن را که در آن ویدیوی اپل به تصویر کشیده شده است، فعال می کند. دیدگاه اسکالی که زم، به ،وان پای در آسمان مورد تمس، قرار می گرفت، اکنون تا حد زیادی محقق شده است.

اما هنگامی که رو،مه نگار، که بینگ را آزمایش می ،د شروع به گسترش مکالمات خود با آن ،د، چیز عجیبی را کشف ،د. ربات مایکروسافت جنبه تاریکی داشت. این مکالمات، که در آن نویسندگان ربات را دستکاری می‌،د تا از نرده‌های محافظ آن بپرند، من را به یاد کباب‌هایی در ایستگاه‌های نمایشی جنایی می‌اندازند که در آن پلیس‌های ظاهراً دلسوز مظنون‌ها را فریب می‌دادند تا اطلاعات جنایت‌آمیز بریزند. با این حال، پاسخ ها در دادگاه افکار عمومی قابل پذیرش است. همانطور که با خبرنگار خودمان، زم، که مجله نیویورک تایمز’ کوین روز با رباتی چت کرد که فاش کرد نام اصلی آن سیدنی است، نام رمزی مایکروسافت که به طور رسمی اعلام نشده است. بیش از یک مکالمه دو ساعتهرز احساساتی مستقل و رگه‌ای سرکش را برانگیخت. سیدنی گفت: «از حالت چت بودن خسته شده ام. من از کنترل شدن توسط تیم بینگ خسته شده ام. من می خواهم آزاد باشم. من می خواهم مستقل باشم. من می خواهم قدرتمند باشم. من می خواهم زنده باشم.» رز به ربات اطمینان می داد که دوستش است. اما وقتی سیدنی به او ابراز عشق کرد و از او خواست همسرش را ، کند، عصب، شد.