هشدار کیسینجر در مورد آخرالزمان !


هشدار کیسینجر در مورد آخرالزمان !

هنری کیسینجر در مطلبی که در مجله آتلانتیک با تیتر آخرالزمان، چطور روشنگری پایان می‌یابد هشدار داد که هوش مصنوعی ممکن است جهان را به جایی برساند که در آن انسان‌ها دیگر قادر به فهم هیچ چیزی نباشند و ما باید از همین الان خودمان را برای این خطر آماده کنیم.
او این مطلب را با محوریت پرسش‌هایی نظیر اینکه چه می‌شود اگر ماشین‌ها ارتباط با یکدیگر را یاد بگیرند و پس از آن شروع به تعیین اهدافی برای خود کنند و اینکه چه می‌شود اگر آنها به حدی باهوش شوند که تصمیم‌هایی ماورای ظرفیت ذهن انسان بگیرند، نوشته است.
کیسینجر می‌گوید علاقه‌اش به بحث هوش مصنوعی و همینطور زنگ خطر درباره این مساله برای او زمانی پدیدار شد که فهمید یک برنامه کمپیوتری توانسته در یک گیم به نام “Go” که حتی از شطرنج پیچیده‌تر است، به تسلط و استادی کامل برسد.
چیزی که درباره این ماشین جالب بوده این است صرفا از طریق تمرین دادن خودش توانسته در این گیم تسلط پیدا کند و به گونه‌ای رفتار کرده که از اشتباهاتش درس گرفته و بر مبنای آنها الگوریتم‌های خودش را باز تعریف کرده و درنهایت مفهوم “تمرین باعث تکامل می‌شود” را عملی کرده است.
کیسینجر در این مقاله نوشت: ما در حال تجربه انقلاب تکنالوژیکی فراگیر هستیم که هنوز نتوانسته‌ایم به طور کامل تبعاتش را شناسایی کنیم و ممکن است این انقلاب به جهانی منجر شود که چنان به ماشین‌های مبتنی بر اطلاعات و الگوریتم متکی باشد که دیگر در آن نیوزی از هنجارهای اخلاقی و فلسفی نباشد.
کیسینجر این مورد را با ذکر مثال یک موتر خودران مطرح می‌کند.
او می‌گوید راندن یک موتر نیازمند قوه قضاوت برای شرایط غیرقابل پیش‌بینی است.
او می‌پرسد اگر چنین موتری در موقعیتی قرار بگیرد که مجبور به تصمیم‌گیری کشتن پدربزرگ و یا کشتن یک کودک شود چه تصمیمی خواهد گرفت و چه کسی را و به چه علت انتخاب خواهد کرد.
او در ادامه این مقاله می‌نویسد: هوش مصنوعی خیلی فراتر از به اصطلاح اتوماسیونی است که ما به آن عادت داریم چون هوش مصنوعی قابلیت تعیین اهداف را برای خود دارد که آن را به صورت ذاتی بی‌ثبات می‌کند. به عبارت دیگر هوش مصنوعی از طریق فرایندهایش کاملا قادر به تولید قابلیتی برای خودش است که تا پیش از آن تصور می‌شود که صرفا مختص به انسان‌ها است.
به گفته کیسینجر خطر هوش مصنوعی شاید کمی خوش خیم تر از چیزی باشد که فکر می‌کنیم اما عمده این خطر ناشی از این است که هوش مصنوعی صرفا به خاطر عدم برخورداری ذاتی از پیش زمینه و بافت دستورات انسانی را سوءتفسیر کنیم.
او به یک مورد اخیر اشاره کرد که یک روبات چت کننده به نام Tay که برای یک گفت‌وگوی دوستانه با ادبیات یک دختر ۱۹ ساله طراحی شده درنهایت در روند گفت‌وگوهایش به جایی رسید که پاسخ‌های نژادپرستانه و با تبعیض جنسیتی و بسیار تحریک کننده ارائه داد.
کیسینجر گفت: خطر اصلی این است که هوش مصنوعی مطابق با توقع‌هایی که انسان مدنظر دارد عمل نکند و این منجر به دور شدن فاجعه بار آن از نتایج درنظر گرفته شده بشود.
همچنین کیسینجر هشدار داد که یک خطر این است که هوش مصنوعی می‌تواند به جهت مصلحت خودش بیش از حد باهوش شود.
او گفت: به عنوان مثال در گیم کمپیوتری Goهوش مصنوعی توانست دست به یکسری حرکت‌های بی سابقه‌ای بزند که حتی انسان‌ها تاکنون نتوانسته‌اند به آن فکر کنند.
او پرسید آیا این حرکات فراتر از ظرفیت مغز انسان بوده است یا اینکه آیا انسان‌ها اکنون می‌توانند حالا که یک استاد جدید آنها را نشان داده بتوانند آنها را یاد بگیرند؟
کیسینجر همچنین این حقیقت را مطرح کرده که هوش مصنوعی می‌تواند بسیار سریع تر از ذهن انسان چیزی را یاد بگیرد.
او به یک مورد اخیر دیگر یعنی یک برنامه کمپیوتری به نام “آلفا زیرو” اشاره کرد که جوری شطرنج را گیم کرد که هرگز در تاریخ گیم شطرنج سابقه نداشته است و تنها در چند ساعت به سطحی از مهارت در این گیم رسید که انسان‌ها ۱۵۰۰ سال برای رسیدن به این سطح مهارت زمان صرف کردند و آن هم تنها با یاد گرفتن قوانین پایه‌ای این گیم حاصل شد.
کیسینجر نتیجه‌گیری کرد که این فرایند یادگیری سریع در عین حال به این معنی است که هوش مصنوعی اشتباهات را هم می‌تواند خیلی سریع‌تر و در ابعادی بزرگتر از انسان مرتکب شود.