?

Log in

No account? Create an account
inchief

kmartynov


равновесие с небольшой погрешностью


Категория: технологии

быстро — значит без людей
inchief
kmartynov

lemelson-mit eat it undergrad spyce kitchen

Студенты из MIT сделали полностью автоматизированную закусочную. Из свежих ингредиентов роботы готовят любое блюдо в стиле пасты, карри или вока — т.е. из тех, которые основаны на термической обработке только что сделанной смеси. Вот видео, демонстрирующее, как это работает.

Авторы проекта, получившего название Spyce Kitchen говорят о том, что они хотят изобрести фаст-фуд заново и сделать его по-настоящему быстрым. Лишней деталью в быстром фаст-фуде оказались именно люди — эти медлительные аналоговые существа, склонные лениться, ошибаться и отвлекаться.

Ясно, что эта та же логика, которая позволяет Uber делать заявлений о том, что самой иррациональной и дорогой частью их сервиса являются водители автомобилей — как только будет создано эффективное коммерческое предложение на рынке роботов-такси, Uber намерена выкупить 50 тысяч таких автомобилей и тем самым наконец обзавестись собственным автопарком, но уже без посредников в виде людей. Spyce Kitchen, как и роботы Uber, потенциально лишат работы десятки миллионов людей по всему миру.

У этой истории есть и другая сторона. В культуре давно обсуждается фигура официанта — безымянного и случайного слуги, доступного любому представителю среднего класса. Некоторые люди не любят кафе, в которых есть официанты, потому что это унижает человеческое достоинство. Роботы уничтожат официантов, а вместе с тем поставят вопрос о достоинстве роботов. Я подумал об этом, сидя в массажном кресле — для того, чтобы записаться к массажисту из плоти и крови я слишком брезглив. Мы с ним отличные партнеры — цифровой кентавр на заре нового века.

Originally published at kmartynov.com. You can comment here or there.


ии и исключительное самомнение homo sapiens
inchief
kmartynov

barret

На русском языке вышел перевод алармистской книги Джеймса Баррата об искусственном интеллекте — «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo Sapiens». В ней в довольно сжатом виде сформулированы все страхи относительно грядущего наступления ИИ, это своего рода типичный современный миф. Алармистские тексты полезны — их хорошо читают и обсуждают, и они позволяют выполнять функции критики.

Но в случае с Барратом, как и в случае многих других авторов, сказывается его слабая философская подготовка. Он хорошо справляется со своей задачей — пугать читателей с позиций здравого смысла. Беда только в том, что этот здравый смысл не учитывает новейших знаний человечества о природе собственного сознания.

Баррат делает две фундаментальные ошибки. Во-первых, это ложная антропоморфизация. Во-вторых, это миф картезианской очевидности.
Первая состоит в том, что далеко не каждый разум должен быть похож на человеческий. В том фундаментальном отношении, что человек — это примат, эволюцинировавший как стадный охотник, и чей интеллект рассчитан на решение сложных макиавеллевских головоломок и интриг. Мы думаем в терминах хищник-жертва, мы заботимся о сохранении своего влияния, но это никак не связано со свойствами интеллекта как такового. Если компьютер обыграл нас в шахматы, то совсем не потому, что он хотел за счет нас самоутвердиться. Разум, очищенный от эволюционной истории приматов, совершенно не обязательно включает в себя стремление к экспансии. Точнее нет никаких причин считать, что ИИ должен быть Макиавелли — это human trait.

Баррат в одном месте сам замечает, что антропоморфизм ИИ не следует преувеличивать, что войны с машинами не будет, и что правильнее относится к «бунту ИИ» как к риску стихийного бедствия. Дальше он замечает, что у машины нет морали, и в этом ее опасность. И в обоих случаях это полуправда. Стихийные бедствия существуют, но силы природы также дают нам возможности, и было бы совершенно бессмысленно говорить, что природа должна быть запрещена. У машин нет морали, но у них нет и амбиций, или желания убить всех людей.

Когда Баррат сравнивает на соседней странице людей и компьютеры с мышами и кошками, он демонстрирует, что не понимает, насколько глубоко лежит его желание антропоморфизировать, и пояснять мир в рамках знакомых моделей, взятых из наивно прочитанной биологии, и не учитывающих реальные данные эволюционной психологии и этологии. Еще раз: ИИ не будет похож на нас, потому что он не возникнет в результате эволюции приматов-хищников, живущих в группе. Аргумент о том, что ИИ делается человеком, и потому должен стать похожим на человеком, предполагает, что на человека похожи также вилка или сапог.

Вторая ошибка Баррата — он предполагает, что необходимым условием интеллекта является самосознание, локализация в некотором пространстве-времени, и кроме того прямой и непосредственный доступ к собственным идеям. Короче, он строит разум по модели Декарта, где все идеи являются ясными и отчетливыми, разум заперт в res extensa, и мы прекрасно отдаем себе отчет в том, что именно мы мыслим.

С точки зрения современной нейрофизиологии и философии это ложь от начала до конца. Интеллект вовсе не обязательно должен представлять из себя вещь, запертую в некотором пространстве — свидетельство тому являются многочисленные проекты распределенных вычислений. Интеллект совершенно не обязательно должен иметь самосознание, тем более понятое как человеческое (см. выше), — он может быть чисто функциональным. И наконец, принципиальный момент этого картезианства предполагает, что если уж ИИ возникнет, то мы непременно этот момент зафиксируем, со всей ясностью и отчетливостью, и начнем по этому поводу переживать. А ИИ, соответственно, начнет на своем еще более высоком уровне осознавать наше присутствие и тоже нервничать.

Хотя на самом деле, когда ИИ придет, мы этого просто не заметим — он будет существовать совершенно вне контекста нашего понимания, и у него не будет ни единой причины сообщать нам о том, что он есть. ИИ будет, а для человека ничего не изменится — мы будем пользоваться компьютерами, как пользуемся и теперь, только интенсивнее и с большей отдачей. Социальные проблемы при развитии автоматизации очевидны, поскольку мы будем терять самые высокооплачиваемые места, но вот концептуально нет никаких причин считать, что человек и ИИ вообще друг друга заметят.

Верить в обратное — значит вслед за Декартом считать, что человек является носителем исключительно важного, универсального разума, что он крайне внимателен и одновременно интересен для мира.

Из забавного — Баррат цитирует Елиезера Юдковски, который прославился в основном весьма специфическим фанфиком по «Гарри Поттера». Компьютер не испытывает к вам ни любви, ни ненависти, — говорит Юдковски, — но вы состоите из атомов, которые он может использовать в своих целях. То есть из всех атомов во вселенной ИИ потребуются именно ваши уникальные атомы, — на фоне таких гипотез даже «Терминатор-3″ выглядит как образец научного мышления.

Originally published at kmartynov.com. You can comment here or there.


о поэзии
inchief
kmartynov

Робототехника – дело мое.
Роботов делаю я.
Первый мой робот водочку пьет,
Второй потребляет коньяк.

Чувак, который поет песню “про слона”, оказался совсем великим.

Originally published at kmartynov.com. You can comment here or there.


агитпроп нового типа
inchief
kmartynov


Перед хоккейным финалом по "Первому" показали вот этот сюжет о Чубайсе, нанотехнологиях и деньгах. Я, к сожалению, не могу рассматривать это как некое наивное искусство, возникшее из ниоткуда. Это кто-то делал и всегда можно в общем понять, кто именно и зачем. Так вот сюжет очень хороший. Начинается он с разогревочного и довольно тонкого юмора, который способен оценить ценитель и знаток, а заканчивается простонародной пошлятиной об онанизме, которая также должна вызывать восторг в своей целевой аудитории. Есть правда некоторая проблема в том, что в целом ролик выглядит довольно кустарно из-за такого резкого перехода от насмешки для тех, кто в этой ситуации hip, к песням о том, как нанисты возмуться за лупу.

И тем не менее агитпроп у нас медленно, но верно растет. Если ему дать подходящего противника, он начнет показывать зубы.

викторианский интернет
inchief
kmartynov


Tom Standage The Victorian Internet: The Remarkable Story of the Telegraph and the Nineteenth Century's On-Line Pioneers. Walker & Company, 1998 (pdf)

В сети наконец-то появилась первая книга моего любимого автора-популяризатора Тома Стэндэйджа, который как никто другой умеет писать об истории вещей и технологий. Я пока не читал "Викторианского интернета", но вполне уверен, что книга того стоит, так что в самое ближайшее время исправлю это упущение. В сущности, Стэндидж написал просто историю телеграфа, но пример его "Истории мира в шести стаканах" показывает, что сделано это было блестяще, остроумно и захватывающе.

the return of airship
inchief
kmartynov


Пресловутые вулканы, как справедливо замечают тут, могут привести к реализации нашей давешней мечты: перевод инфраструктуры на дирижабли. В тридцатые годы прошлого века дирижабли были преждевременно скомпроментированны тогдашним уровнем технологий, относительно низкой безопасностью, но теперь все иначе. Они дешевы, экологичны, не требуют дорог, и когда небо над Россией расцветет конусами воздушных кораблей, мы будем знать, что наступило будущее. Я горячо приветствую этот шаг.

Гражданское самолетостроение в России умерло, да здравствует гражданский дирижабль. Заодно решится и проблема дороги между Читой и Хабаровском, когда столица будет перенесена во Владивосток: вместо устаревших автомобилей мы будем пользоваться современными дирижаблями.

к началу избирательной кампании на украине
inchief
kmartynov
- Кстати, я вот тут, наслушавшись аглицкой музыки, подумал: а что если организовать морскую экспедицию за средним классом? Диковинные редкости ведь надо привозить из-за моря, если я ничего не путаю.

- Хорошая идея. Петр так уже завозил интеллектуальну елиту.

- Это тебе в копилку "Медведева-мореплавателя".

- На газ менять будем?

- Зачем? Мы украдем немного среднего класса Там, а потом тайком, контрабандой завезем сюда. Создадим условия, экспериментальный дом там или город, и он у нас расплодиться. Как шелковичный червь или чай...

- А мне кажется надо двусторонний газопровод. В одну сторону газ, в другую - средний класс.

- Думаешь, много надо среднего класса?

- Конечно. Эксперты пишут, он должен быть основой нашего государственного строя.

- Сегодня мы меняем газ, а завтра будет средний класс.

- Наоборот, вечером деньги, стулья утром.

- Сегодня будет средний класс, а завтра разбазарим газ. А ещё можно гигантские супертанкеры со средним классом. И чтоб оборонять от пиратов.

- Правильно, тогда и флот разовьется на этом поприще. Авианосцы будем эскортные строить.

- А то если транзитом - Украина все сопрет.

- Да, им тоже нужен средний класс, даже больше нашего, их тогда в ЕС пустят.

(без темы)
inchief
kmartynov
Миша Котиков, оказывается, жив. Эмигрировал в Мексику, где в духе времени занимается нанотехнологиями.