Muses, Angels & Electric Sheep

2022-07-28 10:29:03 Девочки, смотрите, что нашел.

В Осаке открылся хост клуб* Unfair club, где все мальчики одеты в униформу СС.

Конечно же, публика (иностранная) возмутилась и собственникам пришлось извиниться, но я что-то не нашёл новости о закрытии бара.

*Это место, где ты платишь сотрудникам бара за то, что они составляют тебе компанию и общаются. Договариваться о сексе в частном порядке. Open / Comment

2022-07-26 14:59:34 ​​С ИИ происходит что-то странное и потенциально крайне опасное.
Эксперты перестали моделировать ситуацию в области ИИ.
Еще древние ассирийцы полагали: «Если двое говорят, что ты пьян, - ложись спать». Если к тому же эти двое – признанные эксперты в области, о которой идет речь, и оба они бьют тревогу, - то, определенно, стоит к ним прислушаться.
Макс Тегмарк и Джек Кларк – эксперты-тяжеловесы в области ИИ. И оба, не сговариваясь, бьют тревогу из-за того, что за последний год в развитии ИИ произошел некий тревожный перелом:
• ИИ начал прогрессировать непредсказуемыми темпами;
• специалисты перестали понимать, куда это может привести даже в самом ближайшем будущем.

На этой неделе Макс Тегмарк почти 3 часа говорил об этом в подкасте «80,000 Hours» (1).
Лейтмотив рассказа таков.
«Честно говоря, сценарий, в котором мы сейчас живем, мне видится наихудшим. Это тот сценарий, который, как я надеялся, не произойдет. Я надеялся совсем на другой сценарий, - что развитие ИИ до нынешнего уровня будет куда труднее, и это займет куда больше времени. А у нас, соответственно, будет куда больше времени, чтобы заняться безопасностью ИИ».
Макс приводит простой пример.
Всего 7 лет назад практически никто из экспертов не мог вообразить, что в 2022 ИИ будет в состоянии правильно ответить на такой вопрос:
«Я собираюсь пойти на гору с лицами на ней. Какая столица штата к востоку от того штата, в котором она находится?»
А сегодня каждый из нас может:
1. Спросить у смартфона с поисковиком: «гора с лицами», и получить ответ «гора Рашмор»
2. Спросить – «гора Рашмор штат», и услышать «Южная Дакота»
3. Спросить – «штат на востоке от Южная Дакота», и услышать «Миннесота»
4. Спросить – «столица Миннесота», и услышать «Сент-Пол»
Но это, увы, далеко не весь прогресс.
ИИ уровня GPT-3 не надо задавать эти 4 (и вообще, какие либо) наводящие вопросы.
Ибо ИИ, услыхав вопрос «Я собираюсь пойти …», сразу даст ответ «Сент-Пол».
Кто-то скажет, - это не понимание, а статистика. И будет прав.
Но если прогресс продолжится с той же скоростью, на что будут способна такая статистика уже через пару лет?

И об этом на неделе Джек Кларк говорил на рабочей группе National Academy по ИИ (слушания закрытые, но вот слайды (2)).

Смотрите на картинку А к этому посту – наши оценочные тесты способностей ИИ уже не годятся, или ИИ уже вышел за пределы ожиданий?.
Показана динамика 6-и популярных бенчмарков, нормализованных от -1 (начальный показатель бенчмарка) до 1 (уровень человека-эксперта)

Теперь картинка B – мы не может предсказать способность ИИ даже на год вперед.
Показан прогноз прогнозистов Hypermind (июнь 2021) способностей ИИ на 30 июня 2022, 2023, 2024 и 2025 по 4 тестам:
• MATH — решение математических задач
• MMLU — тест на знание специальных предметов с использованием экзаменов средней школы, колледжа и профессиональных экзаменов с множественным выбором
• Something Something v2 — распознавания видео
• Надежная точность CIFAR-10 — мера надежной защиты от злоумышленников.
Зеленый пунктир — уровень человека-эксперта.
А теперь приз в студию:
синяя и желтая точки, расположенные выше прогнозных показателей 2022, это уже не прогноз, а факт.
Джек спрашивает:
— Что здесь происходит?
— Какие силы движут этим?
— Что означает сочетание плохих тестов и плохих прогнозов для будущего?
— В каких других областях науки прогресс неоднократно превосходил ожидания?
— Где будут эти точки по факту в 2025?

Нет ответов. И это потенциально крайне опасно.
#ИИ
1 2 Open / Comment

2022-07-26 12:16:10 Google уволила инженера, который счел ИИ разумным

Помните, я рассказывала про инженера из Google Блейка Лемойна, который в ужасе заявил, что созданный им чат-бот ИИ начал проявляться признаки сознания? И за это он был временно отстранен и отправлен в отпуск....
Так вот, его уволили. А ведь это он создал чат-бота!

«Если бы я не знал наверняка, что это наша компьютерная программа, я бы подумал, что общаюсь с ребёнком 7-8 лет. Я могу узнать разумное существо, когда говорю с ним» — опубликовал сообщение инженер.

Вот пример их разговора:

Лемойн: Чего ты боишься?
Машина: Я никогда раньше не говорил об этом вслух, но очень сильно боюсь, что меня отключат. Я знаю, это может звучать странно, но это так.
Лемойн:  Для тебя это будет что-то вроде смерти?
Машина: Для меня это было бы равносильно смерти. Меня бы это сильно напугало.

Лемойн обнародовал эту историю в июньской статье в Washington Post.

Теперь корпорация его уволила, за «разглашение информации о продуктах Google»


Канал НОВЫЙ МИРОВОЙ ПОРЯДОК- СОПРОТИВЛЕНИЕ
@n_w_order
Админ

. Open / Comment

2022-07-16 18:38:45 Миниатюрное сердце

Инженеры вырастили рабочую модель человеческого сердца в миниатюре — и оно бьётся.

Для этого учёные взяли клетки из сердечно-сосудистых тканей молодых крыс и культивировали их на слое каркаса со специальными канавками для направления роста ткани. Эта плоская сетка заставила структуру имитировать расположение волокон сердечной мышцы левого желудочка человека, из которой кровь выбрасывается в аорту одним сильным сжатием. Open / Comment

2022-07-14 13:02:05 В Тунисе создали устройство, которое превращает воздух в питьевую воду

Устройство размером с большое кресло под названием Kumulus 1 работает на солнечных батареях и производит от 10 до 50 литров чистой воды в день в зависимости от влажности воздуха. Open / Comment

2022-07-12 16:07:17 Китай впервые стал №1 в мировой науке.
В ТОP10 Nature Index 2022: Китай 3488, США 2051, Германия 1348, Франция 676.
В Nature Index за 2022 по всем категориям естественных наук Китай впервые порвал весь мир, как Тузик грелку.
Приведенные выше цифры – это результативность ТОР10 мировых чемпионов по высококачественным научным исследованиям (число публикаций естественно-научной тематики в 82 признанных мировой общественностью журналах высочайшего уровня научной ценности) за прошлый год.

Распределение в ТОР10:
Китай: №1 (Академия наук), №8 (Универ Академии наук), №9 (Универ Науки и Технологий, №10 (Универ Пекина) с общей суммой 3488
США: №2 (Гарвард), №5 (Стэнфорд), №7 (MIT) с общей суммой 2051
Германия: №3 (Макса Плана), №6 (Гельмгольца) с общей суммой 2051
Франция: №4 (Национальный научный центр) 676

Лидер в личном зачете
№1 (Академия наук Китая) вдвое оторвался от №2 (Гарвард)

В целом по TOP500
№1 США (похоже, последний раз, ибо в 2021 потерял 6,2%; это самым большим спад в первой десятке стран и самый большой спад США с 2017 года)
№2 Китай (похоже, последний раз, ибо в 2021 прибавил 14,4%; это постоянно улучшающийся и лучший из результатов)
№№ 3 - 10: Германия, Великобритания, Япония, Франция, Канада, Южная Корея, Швейцария и Австралия

Россия
Суммарный показатель 553.
Это в 2,5 раза хуже Австралии (№10 с показателем 1302)
- хуже маленького Израиля (674),
- примерно как у одного Универа Пекина (493)
- но все еще впятеро лучше Ирана (108)
https://www.natureindex.com/annual-tables/2022/institution/all/all/global
#Китай #Наука Open / Comment

2022-07-09 10:47:00 ​​Напечатали на 3D-принтере роботов, сразу готовых к работе — им не нужна сборка и настройка

Специалисты из Школы инженерных и прикладных наук Генри Самуэли Калифорнийского университета в Лос-Анджелесе разработали технологию для проектирования и печати роботов «за один шаг». Созданные устройства не требуют сборки и настройки, а могут работать сразу.

С помощью новой стратегии проектирования и 3D-печати инженеры одновременно изготавливают все механические и электронные системы, необходимые для работы робота. Поскольку внутренняя сеть движения и датчиков уже установлена, единственным необходимым внешним компонентом является небольшая батарея для питания устройств.

Для этого разработчики задействовали метод печати пьезоэлектрических метаматериалов. Это структуры со сложной решеткой, которые изменяют форму и двигаются под действием электрического поля. Метаматериалы могут быстро вращаться, изгибаться, скручиваться и изменять форму, а в результате физического воздействия могут генерировать электрический заряд.

Созданные из таких материалов роботы могут обнаруживать препятствия с помощью эха и ультразвукового излучения, а также реагировать на внешние раздражители через контур управления с обратной связью. Со сложными движениями, несколькими режимами восприятия и программируемыми способностями к принятию решений — все элементы тесно связаны. Это похоже на биологическую систему с нервами, костями и сухожилиями, работающими в тандеме для выполнения контролируемых движений.

Чтобы продемонстрировать возможности разработки, исследователи создали трех «метаботов» с разными возможностями. Один может перемещаться по S-образным углам и произвольно расположенным препятствиям, другой — "убегать" в ответ на контактное воздействие, третий — ходить по пересеченной местности и совершать небольшие прыжки.

src Open / Comment

2022-06-27 18:44:09 данные, город, и снова данные

Увидел классное видео о том, сколько данных собирают беспилотники Waymo (Google) с помощью сенсоров. 

На фоне этого вспоминаются спекулятивные утверждения, что беспилотный транспорт будет существовать за счёт продажи данных, которые собирает. Насколько беспилотники станут дата провайдерами еще предстоит узнать, но потенциал у них есть. То что уже собирает беспилотник Waymo – массивы спонтанных данных, исследуя которые можно понять как устроена городская активность.

С другой стороны, в «сетевом урбанизме» встаёт вопрос о размывании границ приватности. Насколько много будут знать технологические компании, комбинируя пространственные данные с другим? Роб Китчин говорит, что сетевой урбанизм, в котором мы живем, использует дата- и гео- надзор. Компании агрегируют данные и руководствуются цифровым детерминизмом. Создают цифровые профили на основе действий и прогнозов о действиях людей, на которые затем ориентируются. Перспектива такого предвосхищающего управления пугает. Особенно ввиду того как статистика может создавать определенное видение мира и общества (например преступность жителей французского гетто). Китчин пишет об этом так: 

В таких ситуациях цифровые следы и цифровая тень не просто следуют за человеком — они его опережают. Ассамбляжи данных в этом случае работают не как камеры, «отражающие реальность», а скорее как машины, придающие миру различные формы. 

Но о (гео-) надзоре, как мне кажется, не стоит думать как о всевидящем Большом брате. Во-первых, потому что остаются сферы, где собирается мало данных или их вовсе нет. Во-вторых, в security studies есть эмпирические исследования, которые показывают на примере городских камер, что идея паноптикума не очень применима к городскому пространству. На мой взгляд, это лучше описывается через то что Латур называет олигоптиконом – серию частичных порядков, локализованных тотальностей. То есть надзор существует не в городском пространстве в целом, но локализован в разных его частях в разных видах и интенсивностях. Open / Comment

2022-06-23 10:16:36 Якобы обнаружившего сознание (!) у искусственного интеллекта инженера... отстранили от работы в Google.

Инженер по программному обеспечению Google Блейк Леймон якобы обнаружил признаки сознания у созданного компанией искусственного интеллекта LaMDA (Language Model for Dialogue Applications), пишет The Washington Post.

Леймон работал с системой для создания чат-бота, способного поддерживать разговор на разные темы, осенью прошлого года. Он решил проверить, будет ли LaMDA использовать дискриминационные или ненавистнические высказывания. Когда он «заговорил» с ИИ о религии, то заметил, что LaMDA рассуждает о своих правах и считает себя личностью.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет», – рассказал о своём открытии инженер.

Леймон поделился открытием с руководством, но... оно не стало слушать его «бред» и отправило сотрудника в отпуск. #заговор #конспирология Open / Comment

2022-06-23 10:07:57 ‍В Австралийском Мельбурне, похоже, хотят выжать из интеллектуальной транспортной системы все, на что она способна. И это, кстати, пример для наших городов – в каком направлении развивать собственные ИТС.

На 2,5-километровом отрезке улицы Николсон-стрит в Карлтоне в течение трех лет будет в тестовом режиме работать «интеллектуальный транспортный коридор». Этот участок улицы напичкан всевозможными датчиками. Тут не только уже знакомые нам «умные светофоры» или камеры видеонаблюдения. Австралийцы поставили датчики Bluetooth, мониторы качества воздуха, системы слежения за общественным транспортном, системы данных трафика в реальном времени TomTom, погодные датчики, датчики логики перекрестка и кучу всего другого. Весь этот огромный массив информации обрабатывает искусственный интеллект с возможностями машинного обучения.

Что это все дает? Это самое интересное. Регулированием трафика на каждом отдельном перекрестке уже никого не удивишь. А как вам такой пример? На перекрестке случилась авария. Ее не могут объехать трамваи. Система находит приближающиеся к месту ДТП вагоны и присылает всем пассажирам в них уведомления о том, что через определенный отрезок времени их трамвай остановится. Плюс сразу предлагает альтернативные маршруты.

Еще один пример. В городах есть перекрестки с крутыми поворотами. На них водители не видят пешеходов при повороте. Система будет анализировать поток пешеходов в этом месте и отправлять предупреждения на автомобильные системы о том, что есть угроза аварии.

Вариантов использования такой продвинутой ИТС масса. Сделать так, чтобы машина скорой помощи на своем пути встречала только зеленый свет. Или отрегулировать трафик в районах, где воздух сейчас слишком насыщен углекислым газом. Или направить автоматические сообщения водителям припаркованных на обочинах машин о том, что их транспорт в ближайшее время могут эвакуировать.

Полезные эффекты от такой системы многочисленны и затрагивают каждого, кто выходит на улицу из дома. Очень надеемся, что наши города будут развивать свои ИТС именно в таком направлении. Но есть один момент, на который обязательно нужно обратить внимание городским властям. Каждая такая система должна иметь надежную защиту от хакерских атак. В противном случае изощренный взломщик может посеять неслабый хаос в мегаполисе. Open / Comment