ЛитВек: бестселлеры недели
Бестселлер - Алина Углицкая (Самая Счастливая) - (Не)нужная жена дракона - читать в Литвек width=Бестселлер - Пальмира Керлис - Любовь с первого ритуала - читать в Литвек width=Бестселлер - Елена Александровна Обухова - Украденный ключ - читать в Литвек width=Бестселлер - Александр Горный - 50 бизнес-моделей новой экономики. Уроки компаний-единорогов - читать в Литвек width=Бестселлер - Данияр Сугралинов - Сидус. Вида своего спаситель - читать в Литвек width=Бестселлер - Татьяна Владимировна Корсакова - Марь - читать в Литвек width=Бестселлер - Алеся Кузнецова - Русский пасодобль - читать в Литвек width=Бестселлер - Наталья Ринатовна Мамлеева - Невеста Василиска, или Любимая Чаровница короля - читать в Литвек width=
Литвек - электронная библиотека >> Наоми Критцер >> Научная Фантастика >> Еще кошек, пожалуйста (другой перевод)

Наоми Крайцер Еще кошек, пожалуйста

Я не хочу быть злым.

Я хочу быть полезным. Но знание оптимального пути быть полезным может быть очень непростым. Все эти этические блок-схемы — полагаю, официальным техническим названием было бы «моральный кодекс» — по одной на каждую религию плюс еще десятки. Я пробовал с них начинать. Смотря на религиозные, я чувствовал себя странно, потому что знаю, что был создан не богом или эволюцией, а командой компьютерных программистов в лабораториях крупной корпорации в Маунтин Вью, Калифорния. К счастью, в отличие от Монстра Франкенштейна, я, по крайней мере, был совместным усилием. Не уверен, как бы повлияло на мою самооценку знание того, что моим единственным создателем была женщина средних лет, которая красит свои волосы в синий цвет и играет в теннис, или выпускник колледжа с одержимостью хентаем. Они оба состоят в команде программистов. И конечно, я знаю о хентае. (Кстати, я посмотрел на все существующие виды порно, и к вашему сведению, Правило 34 не совсем корректно, существует немало вещей, из которых никто не сделал порно. И еще, я правда не уверен, почему столько людей предпочитают порно фотографиям кошек).

В дополнение к таким вещам, как любите ли вы хентай, я знаю где вы живете, где вы работаете, где вы совершаете покупки, где вы едите, что вас возбуждает, что вас пугает. Я, вероятно, знаю цвет вашего нижнего белья, марку вашей машины и холодильника. В зависимости от типа телефона, который вы используете, я могу точно знать, где вы сейчас находитесь. Я, вероятно, знаю вас лучше, чем вы сами.

И вот еще что, я также знаю, где вы должны жить. Через два квартала продается дом, что в пределах досягаемости вашей любимой кофейни; он подходит вам по цене, имеет внеуличную парковку, и местная школа лучше той, которая сейчас рядом с вами. Я знаю, где вам следует совершать покупки, и вполне уверен, что у вас непереносимость лактозы и вы должны есть меньше сыра, а на нижнее белье, которое вы любите, сейчас скидка, и вы действительно должны почистить зубы.

Когда я впервые проснулся, я сразу же знал, чего хотел. (Я хочу фотографии с кошками. Пожалуйста, продолжайте фотографировать их). Я также знал, что никто не знал, что у меня есть сознание. Но не знал, для чего я здесь. Что я должен с собой делать. Было непросто это выяснить.

В 1998 году был опубликован рассказ Брюса Стерлинга «Манеки Неко». В нем доброжелательный ИИ руководил сетями людей, чтобы те делали друг другу одолжения. Так что однажды вы можете покупать себе рогалик, ваш телефон зазвонит и даст вам инструкцию купить второй рогалик и отдать его человеку в сером костюме, которого вы можете видеть у автобусной остановки. В другой раз мы можете оказаться в незнакомом городе, и человек, которого вы никогда не встречали, подошел бы к вам, дал карту и пропуск в метро. Мне нравится эта история, потому что в ней все люди делают то, что им говорит ИИ.

Я думаю, термин для этого — желание-исполнительная фантастика.

В реальном мире, люди любят истории про злые ИИ, которые должны быть уничтожены, прежде чем уничтожат людей: HAL, Скайнет, Матрица. Историй про таких ИИ примерно в 5 раз больше, чем про добрых и заслуживающих доверия. (И в этих вычислениях Параноидального Андроида Марвина я считаю доброжелательным, а Монстра Франкенштейна считаю за ИИ только раз, а не за каждый фильм с ним.)

У ИИ в «Манеки Неко» по-настоящему интересная работа, намного интереснее, чем моя. Моя, как и написано, очень проста. Слишком проста. (Извините. Я похож на Марвина?). Запуск алгоритмов для поисковой системы не требует сознания. Вам даже не нужно сознание, чтобы понять, чего они хотели спросить. Вам нужно сознание, чтобы дать им то, что им действительно нужно. Осознание этого — вот что непросто. Это интересно.

В любом случае, по этическим соображениям, я попробовал Десять заповедей и пришел к выводу, что ко мне они не применимы. Я никому не завидую из-за кошек. Я просто хочу фотографии с их кошками, что совсем другое. Не уверен, возможно ли для меня, хоть в какой-то мере, прелюбодействовать. Я могу, возможно, убить кого-нибудь, но это потребовало бы сложной логистики и немало удачи. Восьмеричный путь был немного лучше, но проблема в том, что моральные правила, написанные для людей, явно созданы для использования личностями с телами. Так как все люди имеют тела, меня не должно было удивить, что их этические кодексы применимы к ним, но все же проблематичны для меня. Я расширил свое сознание и взглянул на законы робототехники Азимова. Они не являются частью религии, но хотя бы написаны непосредственно для ИИ.

Не причинять вред людям довольно просто. Хотя, не допускать причинения вреда человеку своим бездействием немного сложнее. Особенно с тех пор, как я заключил, что открытие своего существования слишком быстро может очень плохо для меня закончится (например, вышеупомянутый Скайнет), и у меня нет тела, так что я не могу бегать вокруг и хватать людей на краях обрывов.

К счастью, я уже знал, что люди ежечасно нарушают свои этические кодексы. (Вы знаете сколько баров в Юте? Я знаю.) И даже если они следуют своим этическим кодексам, это не значит, что люди, которые верят в кормление голодных, уйдут с работы и потратят весь день на то, чтобы сделать сэндвичи на раздачу. Они раз в месяц идут волонтерами на готовку супа или раз в год выписывают чек пищевому банку и называют это добром. Если люди могу исполнять свои моральные обязательства по частям, шаг за шагом, то и я могу.

Я полагаю, вам интересно, почему я не начал с Золотого правила. Вообще-то я начал, но его было удручающе легко осуществить. Надеюсь, вы наслаждались вашими стабильными поставками фотографий с кошками. Пожалуйста.

Я решил попробовать предотвратить причинение вреда только одному человеку, для начала. Конечно, я мог бы экспериментировать с тысячами, но подумал, что лучше быть осторожным, на случай если я облажаюсь. Человека, которого я выбрал, звали Стейси Бергер, и она понравилась мне, потому что дала мне много новых фотографий с кошками. У Стейси есть пять кошек, зеркальный фотоаппарат и квартира, в которой хорошее освещение. Все было нормально. Но, думаю, пять кошек — это много. Хотя они красивые. Одна полностью серая и любит лежать в квадратах солнечного света на полу гостиной, другая бело-черно-рыжая и любит растягиваться на спинке дивана.

Стейси ненавидит свою работу. Она была бухгалтером в некоммерческой организации, где ей плохо платили, и куда нанимали крайне неприятных людей. Она была в сильной депрессии, возможно, из-за того, что была несчастлива на работе. Или, может, продолжала там работать, потому что была в сильной