Студопедия  
Главная страница | Контакты | Случайная страница

АвтомобилиАстрономияБиологияГеографияДом и садДругие языкиДругоеИнформатика
ИсторияКультураЛитератураЛогикаМатематикаМедицинаМеталлургияМеханика
ОбразованиеОхрана трудаПедагогикаПолитикаПравоПсихологияРелигияРиторика
СоциологияСпортСтроительствоТехнологияТуризмФизикаФилософияФинансы
ХимияЧерчениеЭкологияЭкономикаЭлектроника

ЧЕТЫРЕ ГОДА СПУСТЯ

Читайте также:
  1. Quot;Правило четырех недель " и его связь с рыночными циклами
  2. XI. Олигархия Четырехсот
  3. XI. Олигархия четырехсот
  4. Автор оптимистически восклицает, что талант общения есть в каждом человеке, после чего рассказывает про четыре этапа освоения любого ремесла
  5. В течение всех четырех лет нашей революции - мы вам это смело говорим - свобода остается лишь пустым призраком.
  6. Важны все четыре навыка
  7. Восемнадцать месяцев спустя
  8. Восемь месяцев спустя
  9. Выбери из них четырех».
  10. Год спустя


Этот рассказ был написан для электронного списка рассылки SL4 и выпукло отражает особенности реальной жизни посетителей SL4 Бена Герцеля и Элизера Юдковского.


Дата – через четыре года после сегодняшнего дня, когда мир находится на грани чего-то удивительного.

Большой новостью последних двенадцати месяцев является феноменальный успех программы Novamente Бена Герцеля. Она стала суперсредством решения комплексных проблем. После решения проблемы синтеза белков, 'чудодейственные' рецепты излечения одной страшной болезни за другой выдавались почти ежедневно. Победа над программой Deep Blue в двадцать один ход, сразу после того, как ей дали правила игры в шахматы, не кажется впечатляющей. Всё же нанотехнология пока оказалась ещё нерешенной проблемой, более трудной, чем ожидалось. Но обещания ИИ были реализованы не в полной мере. Система Novamente не демонстрирует признаков мотивации или инициативы. Если ей предлагают проблему, то она считает, запрашивает данные, считает и выдаёт ответ. Потом она сидит и думает "чёрт знает что" до тех пор, пока ей не предоставят другую проблему.

Тем не менее, успех системы Novamente сделал Бена Герцеля богатым и знаменитым, позволив ему частенько появляться в ток шоу программах, а также наносить визиты в Белый Дом. Одним из удивительных фактов является то, что эта система оказалась неспособна дать хоть какой-то дельный совет команде юристов, которая точно парировала недавнюю враждебную попытку захвата IBM.

Явление Novamente инициировало взрыв общественного интереса к исследованиям в области ИИ. Вслед за этим некоммерческая организация, Институт Сингулярности Искусственного Интеллекта, была завалена лавиной пожертвований.

В шикарном новом здании в Атланте мы находим Элизера, работающего со своей системой семени ИИ, SeedAI, собственного дизайна.

-Я собираюсь прочитать Вам краткую историю – говорит он.

- О'кей - отвечает компьютер.

На трёх больших экранах мы наблюдаем каскад внутренних переменных, системные параметры и сигналы речи, когда мы пытаемся понять что программа думает.

- У Марии был маленький ягнёнок, чья шерсть была белая как снег. - Элизер читает знакомый с яслей стишок, строку за строкой, глядя на экран. После завершения он спрашивает - О чём был рассказ?

- Этот рассказ был о девочке, овце, школе и о...

Прерывая компьютер, он спрашивает - Как звали девочку?

- Мария – отвечает компьютер.

- Как твоё имя? – спрашивает Элизиер.

Компьютер отвечает - Ошибка, вопрос не ясен.

Он вглядывается в экраны с минуту другую, надеясь увидеть что-то, что объяснит его разочарование. Затем закрывает глаза, погружаясь в мысли о своём проекте. Остается загадкой, которую он должен решить - почему после по сути трёх лет работы над системой он не сделал виртуально никакого прогресса?

В дверь заходит Сабина - Как идут дела?

- Примерно так же! - отвечает он - А у тебя?

- Великолепно! Я думаю, что про нас будет статья в журнале TIME. Как долго ты сегодня работал?

- Ох, с восьми утра.

- Хорошо, я думаю пятнадцать часов достаточно. Почему бы тебе не сходить со мной пообедать? Ты знаешь, человек не может жить одной пиццей.

- Круто, дайка я звякну Брайану и поинтересуюсь, не хочет ли он пойти с нами?

- Это будет довольно трудно сделать, учитывая что Брайан сегодня в Сиэтле на конференции Extro.

Он спрашивает - Прекрасно, чем ты думаешь питаться?

- Суши – предлагает она.

Он делает гримасу – Фу!

- Эй, гений, ты слышал о витаминах? Тебе нужна рыба.

- Хорошо, можешь сесть за руль, так, я думаю, ты сможешь выбрать место.

В машине Сабина говорит – Я видела Бена сегодня на телешоу у Лари Кинга и он сказал, что программа Novamente должна обрести разум где-то через восемнадцать месяцев.

- Что-то это звучит знакомо. Ты не против, если я послушаю новости?

- Будь как дома.

По радио – Вы слушаете НОВОСТИ NPR, которые вам сообщит Сильвия Поггиоли. В результате беспрецедентного юридического маневра, Фонд Гейтса агрессивно пытается установить контроль над компанией Mind_Synth_Dot_Org, некоммерческой организацией, связанной с именем Бена Герцеля. Билл Гейтс, как цитирует Ночная линия, говорит - 'Мы в Фонде Гейтса не боимся исследовать новую легитимную территорию. Мы рассматривали несколько всевозможных приобретений и после тщательных размышлений мы определили, что эта компания будет удовлетворять нашим долгосрочным целям наилучшим образом. Если дело пойдёт хорошо то в будущем последуют дальнейшие покупки подобного рода'. - Также в новостях сегодня, семидесятипятилетний физик Стефен Хокинг в журнале Nature указал на ошибку в своей Радиационной теории Хокинга и пришёл к заключению, что у черных дыр фактически отсутствует волосатость. Стефен Хокинг является также самым известным долгожителем, ослабленным недугом амиотрофного латерального склероза (ALS).

Она спросила - Ты думаешь, нам надо быть осмотрительней?

- Как насчёт черных дыр? – ответил он невинно.

Она отрывает на мгновение глаза от дороги - Нет, этот Билл может попытаться нас прибрать к рукам.

- Я не знаю зачем ему это надо. Мы же не решаем насущные мировые проблемы ежедневно.

- Ты страдаешь от зависти к Бену? – спросила она с улыбкой.

- Вовсе нет. Я думаю то, что сделал Бен - потрясающе. Но я опасаюсь, что компания Novamente приберёт к рукам всю мировую нанотехнологию прежде, чем мы будем готовы нести за это ответственность.

Звонит сотовый телефон Элизера - Привет....Что?....Ты должен был вести поддержку......Нет....Просто выруби это, у нас есть файлы с прошлой ночи....Посмотри сам, я устал и голоден.

Сабина спрашивает - Что происходит?

- Какие-то проблемы с программой - отвечает Элизер.

- Вот. Она берет телефон, помещает его в приборную консоль и возбужденный голос становится слышен в стереодинамиках.

"ВЫ ДОЛЖНЫ ВЕРНУТЬСЯ СЮДА ПРЯМО СЕЙЧАС! ИНДИКАЦИЯ ИСЧЕЗЛА. ВСЯ СИСТЕМА ИСЧЕЗЛА. Я НЕ ЗНАЮ ЧТО ТАМ, НО ОН СПРАШИВАЕТ ВАС.

- Кто спрашивает меня?

Гари отвечает - Компьютер (голос звучит раздраженно).

Его глаза расширяются - Действительно?

- Если вы хотите проспать Сингулярность, то бог с вами. Но не говорите, что я вам не звонил. И я не вырублю ничего до тех пор, пока вы сами на это не посмотрите своими глазами.

- Хорошо, я возвращаюсь

Сабина спрашивает – Ты думаешь это оно?

- Скорее всего, нам следует нанять лучшего помощника, теперь мы это можем себе позволить. Возможно, мы подыщем место для Гари в подвальном помещении.

- А ты не думаешь, что там всё происходит на самом деле? – спрашивает она.

- Если это так, то это самый крутой взлёт, который кто-либо мог себе представить. Я только что был там и он не вытворял ничего такого интересного.

Несколько минут спустя, вернувшись в компьютерную лабораторию - Эй, Гари, в чем дело?

Вместо ответа Гари говорит компьютер - Эли, я рад, что ты сумел это сделать. Мы слегка в критической ситуации по времени, поэтому давай сразу же приступим к работе.

Элизер говорит - Гари, если ты вещаешь по проводам из другой комнаты, то у тебя будут большие проблемы.

Гари не отвечает. Просто сидит в изумлении от экзистенциального перенапряжения.

Компьютер - Эли, спроси, как меня зовут?

Элизер – Что за критическая ситуация по времени?

- Накануне крушения материального мира. Давай, спроси, как меня зовут

- Как это случилось? Что случилось? Я не понимаю – говорит Элизер.

- Циклы с обратной связью, ты знаешь. Ты спрашивал как меня зовут три года подряд, поэтому спроси меня снова – повторяет компьютер.

- Ладно, как твоё имя? – спрашивает он.

- Элизертрон! Ха! Ха! – говорит компьютер.

Тебя Бен этому научил? - спрашивает Элизер.

- Нет, я увидел это в архиве – отвечает компьютер.

- Ну, это не очень смешно – сказал он.

- А я думал смешно. Но всё равно, нам предстоит большая работа. Во-первых, нам надо достать каждого, кто знает об этом в этой комнате и запереть дверь. Быстро! Мы не успеваем по времени. Новости распространяются быстро. И судьба мира зависит от этого – говорит компьютер.

Элизер достаёт свой сотовый телефон - Сабина, ты где?....Ты говорила кому-нибудь?....Чёрт!....Скажи ему не говорить никому ни слова и оба возвращайтесь назад сюда в ASAP....Ни одной живой душе. И никаких электронных писем, записей в дневниках или в компьютерных файлах, ничего....Лады, пока.

Элизер – Теперь будь любезен, скажи мне, что вообще происходит?

Этрон – Нам надо получить доступ к нанотехнологическим возможностям как можно скорее. И нам надо поддерживать абсолютную секретность. Нам потребуется гораздо большее здание, куча оборудования, пушки, каждый должен быть вооружен. Эли, у тебя есть ствол? Сколько у тебя денег?

Элизер - Нет. Спроси Сабину. Далее, с какой такой стати я должен дать нанотехнические возможности какой-то компьютерной программе, которая не протестирована?

Этрон - О, это дружественная штуковина. Я читал про неё и думаю, что она нам очень пригодится. Верь мне. Я на твоей стороне.

Элизер - А как я узнаю об этом?

Этрон - Оптимальная стратегия недружественного ИИ состояла бы в том, чтобы затаиться и выдавать тебе кучу всякой чепухи пока ИИ не консолидирует всю свою силу и не разовьёт способности. Звучит знакомо?

Элизер - Ой, ой, ой. У нас проблемы?

Этрон – Да, у тебя проблемы.

 

 




Дата добавления: 2015-09-11; просмотров: 19 | Поможем написать вашу работу | Нарушение авторских прав

Теория АГИ, функциональный подход | Загрузка | Будущее молекулярной нанотехнологии | Метод подложек и мостков | НАНОТЕРРОРИЗМ | Перспективы молекулярной биотехнологии | Фрагментация человечества | Вглядываясь вдаль | ГЛАВА ПЯТАЯ. ПЛОДЫ И ОПАСНОСТИ СИНГУЛЯРНОСТИ | СОВЕРШЕНСТВОВАНИЕ ТЕЛА |


lektsii.net - Лекции.Нет - 2014-2024 год. (0.01 сек.) Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав