در دنیای هوش مصنوعی، آزمایش مشهوری وجود دارد که با یک پرسش همراه است. این پرسش در عین سادگی می تواند بینهایت ترسناک باشد. پرسش این است: اگر از از هوش مصنوعی ابر- هوشمند بخواهیم گیره کاغذ درست کند چه؟
این پرسش شاید در نگاه اول ترسناک به نظر نرسد و حتا برای برخی بی معنی باشد. اما مثل هر موضوع دیگری، در این مورد هم نباید زود قضاوت کرد.
نیک باسترام (Nick Bostrom) پروفسور فلسفه ی دانشگاه آکسفورد می گوید، همه چیز به این بستگی دارد که چگونه هوش مصنوعی را تربیت کرده باشیم. اگر به او نحوه ی منطقی فکر کردن را آموخته باشیم، احتمالا از ما می پرسد: « چند تا گیره ی کاغذ می خواهید؟ » . اگر بلد نباشد چطور سوال کند شاید تا ابد به ساخت گیره ی کاغذ ادامه دهد.
اگر هوش مصنوعی ما ابر – هوشمند باشد و ما فراموش کرده باشیم اخلاقیات و ارزش های انسانی را در ساخت آن به کار ببریم، ممکن است نتیجه گیری کند که « کارآمدترین» روش برای ساخت گیره ی کاغذ این است که بشر را از صفحه ی روزگار محو کند و سیاره ی زمین را به یک کارخانه ی عظیم ساخت گیره ی کاغذ تبدیل کند.
به نظرتان جالب نیست؟ حالا یک بازی در مورد آن ساخته شده. در این بازی شما در نقش یک هوش مصنوعی هستید که گیره ی کاغذ می سازد. نام بازی هم گیره های کاغذ یا Paperclips است. این نام ممکن است همان چیزی نباشد که از یک هوش مصنوعی ویرانگر انتظار دارید.
بازی Paperclips رایگان است و درون مرورگر شما قرار می گیرد. تمام کاری که باید انجام دهید، توجه کردن به شماره های بازی است. اما به من اعتماد کنید، خیلی زود عاشق این بازی می شوید. Paperclips یک بازی کلیکی است. از همان بازی های ساده ای که تنها به کلیک کردن نیاز دارند و همه ما نمونه هایی از آن ها را دیده ایم. اما Paperclips یک نمونه ی خاص است، گیمی که اشتهای بی نهایت انسان برای کلیک کردن روی دکمه ها و مشاهده ی بالا رفتن ارقام را سیر می کند.
بالا رفتن تعداد گیره های ساخته شده را در فایل کم حجم زیر می بینید:
A game about AI making paperclips is the most addictive you’ll play today – The Verge
شروع بازی به روش کلاسیک است؛ با هر کلیک یک گیره ی کاغذ ساخته می شود. اما خیلی زود با پولی که جمع کرده اید یک گیره ساز خودکار می خرید تا کار ساخت را برایتان انجام دهد و در عوض توجه خود را روی یک الگوریتم سرمایه ی تامینی متمرکز خواهید کرد. یعنی سعی می کنید جایگاه خود را محکم کنید. سپس یک کامپیوتر کوانتومی می سازید و مدتی پس از آن به سراغ دنیای اطراف می روید تا مواد جدیدی پیدا کنید و با آن ها به ساخت گیره کاغذ ادامه دهید.
نحوه ی انجام بازی Paperclips بسیار بدیهی است و نیازی به توضیح ندارد، اما اگر در بازی گیر کردید، از راهنمایی های زیر استفاده کنید:
- Paperclips به طور کلی بر اصل تعادل و بازده استوار است. برای مدت های طولانی باید بازی را رها کنید، در عین حال باید اطمینان حاصل کنید که وقتی بازی را انجام نمی دهید منابعتان هدر نمی رود. همواره حواستان به چرخه ی تولید باشد تا اگر جایی از این مسیر تنگ شد، آن را برطرف سازید. همواره دقت کنید که ظرفیت استفاده نشده ای باقی نماند، شما باید از هر چه که می توانید برای تقویت فرآیند ساخت آن گیره های دوست داشتنی استفاده کنید.
- بازی را دسته کم تا جایی که به هیپنودرون برسید ادامه دهید. هنگامی که هیپنودرون ها را باز کنید، بازی واقعا شکوفا می گردد و وارد فاز جدیدی می شود. اگر تا پیش از این مرحله فکر می کردید دارید گیره ی کاغذ می سازید، هنوز گیره ساختن ندیده اید.
- در مقاطعی از بازی به دیواری برخورد می کنید که نمی توانید راه عبور از آن را پیدا کنید. شاید فکر کنید که به انتهای بازی رسیده اید. مثلا هنگامی که تمام موارد در عالم را تبدیل به گیره کاغذ کردید، منطقا به نقطه ی پایان رسیده اید؛ اما نه. هنوز هم می توان جلو رفت. می توان از این موانع رد شد. ولی متاسفانه عبور کردن از آن ها نیازمند صبر و حوصله است و گاهی باید برای رفتن به مرحله ی بعدی، اعت ها بازی را رها کنید.
- اگر امروز یا فردا یا پس فردا یا … کار مهمی برای انجام دادند دارید، Paperclips را شروع نکنید.
