Я, робот — обзор книги и цитаты
Обзор
Если вы видели фильм Уилла Смита по роману «Я, робот», то я легко могу провести сравнение — эта книга совсем не похожа на тот фильм, кроме трех законов. Хотя это третья книга, которую мы читаем в нашем книжном клубе «Фантастика будущего», она также была самой старой и самой медленной. Вы понимаете кое-что о технологии; как только вы уйдете от технологии, о которой говорите, более чем на 20 лет, вы поймете, насколько она стара и насколько быстро она развивается.
Больше всего эта книга представляет собой интересный взгляд на то, как люди раньше думали о роботах. И я думаю, что даже за последние несколько десятилетий наше знакомство с робототехникой и машинами (чаще цифровыми, чем механическими) пролило больше света на то, как мы на них реагируем. С машинами, которые мы построили, не было серьезных дилемм. Почему, я не могу быть уверен, но мне кажется, что беспокойство больше связано с последствиями того, что эти машины просто выполняют свою работу и что это значит для нас, а не с глубоко укоренившимися сбоями в психике машины.
Выделенные цитаты из книги
«Три закона робототехники:
1: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;
2: Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону;
3: Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону;
Нулевой закон: робот не может причинить вред человечеству или своим бездействием позволить человечеству причинить вред».
«Вы можете доказать все, что хотите, с помощью хладнокровной логики, если вы выберете правильные постулаты».
«Постулаты основаны на предположениях и соблюдаются верой. Ничто во Вселенной не может их поколебать».
«Каждый период развития человечества имел свой особый тип человеческого конфликта — свою разновидность проблемы, которую, по-видимому, можно было разрешить только силой. И каждый раз, к сожалению, сила так и не решала проблему. Наоборот, оно выдержало череду конфликтов, а затем исчезло само собой — — как бы это выразиться — — а, да, «не с треском, а с хныканьем», по мере того как менялась экономическая и социальная среда. А потом новые проблемы и новая череда войн».
«Меня интересуют ваши вымыслы. Ваши исследования взаимодействия человеческих мотивов и эмоций».
«Такие действия, как у него, могли исходить только от робота или от очень порядочного и порядочного человека. Но видите ли, вы не можете отличить робота от самого лучшего из людей».
«Вся нормальная жизнь, Питер, сознательно или нет, возмущается доминированием. Если доминирует низший или предполагаемый низший, негодование становится сильнее».
«Вы единственный, кто отвечает за свои собственные желания».
«Нет ничего более вечно прилипающего, чем память о власти».
«Я, с другой стороны, являюсь готовым продуктом. Я напрямую поглощаю электрическую энергию и использую ее почти со стопроцентной эффективностью. Я состою из прочного металла, постоянно нахожусь в сознании и легко переношу экстремальные условия окружающей среды. Это факты, которые вместе с самоочевидным утверждением, что ни одно существо не может создать другое существо, превосходящее себя, сводят на нет вашу глупую гипотезу».
«Видите ли, всегда полезно подвергнуть прошлую жизнь политиков-реформаторов довольно тщательному исследованию».
«Потому что, если задуматься, три правила робототехники являются важными руководящими принципами многих мировых этических систем. Конечно, у каждого человека должен быть инстинкт самосохранения. Это Правило Третье для робота. Кроме того, предполагается, что каждый «хороший» человек с социальной совестью и чувством ответственности подчиняется надлежащему авторитету; слушать своего врача, своего босса, свое правительство, своего психиатра, своего ближнего; подчиняться законам, следовать правилам, подчиняться обычаям — даже если они мешают его комфорту или безопасности. Это второе правило для робота. Также предполагается, что каждый «хороший» человек должен любить других, как самого себя, защищать своих ближних, рисковать своей жизнью, чтобы спасти другого. Это Правило номер один для робота. Проще говоря, если Байерли следует всем правилам робототехники, он может быть роботом, а может быть просто очень хорошим человеком».
«Люди говорят: «Это так же очевидно, как шум на вашем лице». Но какую часть носа на вашем лице вы можете увидеть, если только кто-нибудь не поднесет к вам зеркало?»
«Это факты, которые вместе с самоочевидным утверждением, что ни одно существо не может создать другое существо, превосходящее себя, сводят на нет вашу глупую гипотезу».
«Негласный девиз United States Robot and Mechanical Men Corp. был хорошо известен: «Ни один сотрудник не совершает одну и ту же ошибку дважды. Его увольняют в первый раз».
«Все, что было сделано в середине двадцатого века на «счетных машинах», было перечеркнуто Робертсоном и его позитронными мозговыми путями. Мили реле и фотоэлементов уступили место губчатому шару плантинумиридиума размером с человеческий мозг».
«[Будущее человечества] всегда было во власти экономических и социальных сил, которых оно не понимало, — в капризах климата и военных удач. Теперь Машины их понимают; и никто не может их остановить, поскольку Машины расправятся с ними так же, как расправляются с Обществом, имея в своем распоряжении величайшее оружие и абсолютный контроль над нашей экономикой».
