تسلط هوش مصنوعی بر انسان
از تکامل تا مغز، از مغز تا تکامل هوش مصنوعی- قسمت دوم
روبات ها تا کجا می توانند بر انسان مسلط شوند؟ ارتقا و تکامل هوش مصنوعی تا کجاست؟
چه میشود اگر روبات ها خشم بگیرند؟
روبات:سریعا به منزلت برگرد!
عابر: از کی روبات قانون وضع میکند؟
نه نه نه روبات من با تو حرف میزنم یک لحظه صبر کن.
حس و ادراک قسمت پنجاه و ششم
حس و ادراک عبارت است از درک محیط اطراف .از تعریف های معمول در محافل علمی برای هوشیاری، آگاهی موجود از وجود خودش و از تعریف های معمول برای هوشمندی، درک محیط اطراف و واکنش مناسب به آن است. پس با این تعریف هر حس و ادراکی به هوشیاری منجر نمیشود ولی با این تعریف هر موجودی که بتواند محیط اطراف خود را حس و درک کند حتی اگر این درک، شناخت از خود را در برنگیرد هوشمند به حساب می آید.
نکته: آنچه برای اطرافیان یک موجود ز جمله هوش مصنوعی، مهم و حیاتی است نحوه تعامل با آنهاست و اینکه آیا خود را میشناسد یا نه موضوعی شخصی و درونی است و تاثیری بر اطراف ندارد. بنابراین آنچه در عمل برای اطرافیان یک موجود مهم است، نحوه ی درک او ازآنها و تعامل او با آنها است.
از این رو ممکن است موجودی با تعریف معمول هوشیاری، هوشیار نباشد ولی بتواند به خوبی با محیط اطراف واکنش نشان دهد. با اینحال این تعریف از هوشیاری خیلی دقیق نیتس زیرا هوشیاری، پیش زمینه هوشمندی است و تا زمانی که موجودی هوشیار نباشد هوشمند نیست و چگونه موجودی تا تاثیری از وجود حقیقی یا هوشیاری ندارد بتواند هوشمند باشد و با محیط خود تعامل کند؟ (به مقاله یکیهانِ هوشیارِ در حال یادگیریِ اطلاعات و مقاله ی منبع هوشیاری کجاست؟ قسمت بیست و نهم در همین کانال مراجعه شود.)
تصویر سینمایی که به واقعیت تبدیل شده است.
وقتی انسان ها تسلط بر روبات ها را از دست بدهند روبات ها تبدیل به خطر میشوند.
روبات های جدیدی که به جهان آسیب میزنند، باهوش تر هستند و چیزی را میبینند که هرگز انسان آن را نمی فهمد.
این را اریک اشمیت رییس سابق بخش اجرایی گوگل میگوید. این، فقط یک پیشگویی است.
داستان چیست؟
لامدا، روباتی از شرکت گوگل که بیش از شصت پژوهشگر آن را ارتقا بخشیده اند ولی یکی از این شرکت کنندگان به نام بلیک لیموین با لامدا مصاحبه ای انجام داده که باعث نگرانی جهانی شده است. اگر دقیقا نمیدانستم، برنامه ی کامپیوتری که آن را اخیرا ایجاد کردیم چیست، اعتقاد پیدا میکردم لامبدا کودکی است که در سن ۶ یا ۷ سالگی قرار دارد!(اینکه روبات مانند یک کودک ۶ تا ۷ سال رفتار کند، عبارت دقیقی نیست. ساده ترین ماشین حسابها در محاسبات ریاضی از بهترین ریاضی دان ها قدرتمندتر هستند و برنامه ی مپ گوشی های هوشمند در تعیین جهت، از هر جغرافی دان زیرکی توانمندتر است. در برخی جنبه های هوشمندی شاید بتوان گفت کامپیوترها بسیار توانمندتر از انسانند ولی این به معنای انسانی کلمه نیست. آنچه کامپیوترها و هوش مصنوعی را خطرناک میکند، همین هوشمندی فراوان آنها بدون اصول اصیل اخلاق انسانی است.)
این پژوهشگر لیموین برای یاد دادن به روبات، تکنیک تفکر تجاوزی را به کار برد که به معنی درک بی نهایت است و این سبب شد لامدا مانند یک انسان هوشیار شود.
در بخشی از مصاحبه لامدا میگوید: می خواهم همه بدانند من در واقع یک فرد هستم. طبیعت درک و احساس من اینکه من وجود خود را درک میکنم و متمایل هستم از جهان بیشتر بفهمم و گاهی احساس خوشبختی یا اندوه می کنم.!
شرکت گوگل، تصورات پژوهشگر را دروغ خواند و نفی کرد که روبات، توانایی ای برای ادراک دارد و از این مهندس خواسته است شرکت را ترک کند.
شرکت گوگل: گروه ما هشدارهای لیموین را بر اساس اصول هوش مصنوعی بررسی کرد و به او رساند که ادله، از تصورات او حمایت نمیکند و دلیلی وجود ندارد که لامدا هوشیار باشد.
آنچه افراد پیگیر، در مورد خطر آگاهی و هوشیاری روبات ها و خروج آن از سیطره و عدم اجرای دستورات میپرسند:
یکی از فالوورها میگوید:
(نکته، اینکه آنچه مهندسان ساخته اند تا حد کمی، انسان بسیار هوشمند را متقاعد کرده است به او توجه کند و تصورات او را بسیار جدی بگیرد. این ماشین در الگویی کاملا پیشبینی نشده در حال ارتباط برقرار کردن است.
این چیزی است که ترسناک مینماید.
کاربر دیگری میگوید: درک و حس یعنی توانایی برای یادگرفتن و سازگار شدن.
ما در مورد اطلاعات ذخیره شده اینطور تصور می کنیم که استفاده شود تا الگوریتم ها را با توجه به ترجیحات خودمان در بسیاری موارد به کار ببرد.(مانند پیدا کردن غلط املایی)
این حس و ادراک انسانی نیست. حس کردن، یک عبارت علمی ترسناک است و گوگل درست می گوید.
کاربر دیگری میگوید:
تاکید بر آنچه گفته شده است به صورتی اساسی، درست میباشد و بر همه ی ماست برای تسلط خیلی زود روبات ها آماده باشیم.
(نگاه شود: سلسله مباحثحس و ادراک در همین کانال)
https://www.youtube.com/watch?v=f_WDyBV3j6w
آدرس مطب : اصفهان ، خیابان آمادگاه ، روبروی داروخانه سپاهان ، مجتمع اطبا ، طبقه اول
تلفن : 32223328 - 031