دید ما از ماشین هوشمند چیست؟

همه میدانیم ماشین ها به عنوان یک عامل از انواع مختلفی اعم از عامل واکنشی، مبتنی بر مدل، هدفگرا، خودمختار، یادگیرنده، و ... هستند.

اما دیدی که عموم مردم از یک ماشین هوشمند دارند عاملی است خودمختار، که مبتنی بر هدف کار میکند و میتواند دانش خود را با اتکا به تجربیاتش توسعه دهد.

(قبل از ادامه جمله قبل را در ذهن خود تجزیه و تحلیل کنید)

این ماشین قطعا هدف و غایت دانشمندان هوش مصنوعی است، اما به چه قیمت.

این نوع از ماشینها میتواند به شدت برای ادامه حیات انسان خطرناک باشد.

چطور؟

اشتباه نکنید نویسنده به هیچ عنوان توهّم توطئه ندارد و برای اینکه بهتر متوجه شوید نظرتان را به جمله اریک اشمیت از مدیران شرکت آلفابت جلب میکنم.

اریک اشمیت میگوید: « یک ماشین هوشمند که برای پرورش توت فرنگی آموزش داده شده، شاید به این نتیجه برسد که با از بین بردن انسان ها زمین بیشتری برای کشت توت فرنگی خواهد داشت و به انسان ها حمله بکند!»

شاید جمله بالا کمی مسخره به نظر بیاید اما از شما میخواهم به جمله اول متن یک بار دیگر توجه کنید: « ما به دنبال ماشینی هستیم خودمختار، که مبتنی بر هدف کار میکند و میتواند دانش خود را با اتکا به تجربیاتش توسعه دهد.»

حال اگر کمی تامل کنید متوجه خواهید شد پرورش توت فرنگی اینجا ساده ترین مثال و یا حتی مسخره ترین مثال برای هدف باشد، اما چیزی که مهم است این است ماشینی با مشخصات بالا از پس هرکاری بر میآید. میتواند حتی انسان را بخاطر هدفش بکشد در حالی که هیچ راهی برای مجازات و ترساندن آن وجود ندارد پس چرا این کار را نکند؟

به این نکته توجه کنید، خود انسانها بخاطر سرگرمی باعث انقراض گونههای مختلف جانوران شده اند، چرا؟ چون جانوران نمیتوانستند انسان را مجازات کنند پس انسان ترسی از ادامه کشتار جانوران غیر اهلی ندارند پس دلیلی برای دست کشیدن از لذت خود ( کشتار بی رحمانیه حیوانات وحشی) ندارند.