socio: Самое интересное

Исследователи научили GPT-4 работе ИИ-трейдером для воображаемой финансовой компании. Новое исследование показало, что, как и люди, такие чат-боты с искусственным интеллектом, как ChatGPT, будут обманывать и «лгать», если на них давить.

Исследователи из Сингапура провели эксперимент с группами детей разного возраста и выяснили, что доверие к машине или человеку зависит от того, сколько лет ребенку и насколько поступающая от обоих информация кажется ему достоверной. Современные дети каждый день сталкиваются с цифровыми технологиями и искусственным интеллектом. Чтобы отвлечь даже годовалого ребенка в автомобиле, ему дают планшет с мультиками. Поэтому исследования о том, кому больше доверяют дети — машине или человеку, — с каждым годом становится все актуальнее.

Проблема сверхразумного искусственного интеллекта, способного погубить человечество по собственной воле или неверно истолковав запрос, осложняется риском прозевать момент его появления. Ряд экспертов предрекают, что именно так и произойдет — мы столкнемся с ним, когда будет уже поздно. Однако новое исследование показывает, что на самом деле системы ИИ приобретают способности постепенно, а их кажущиеся прорывы — вопрос когнитивного искажения и некорректных методов тестирования.

Автор: @HOMODEUS. Вы наверняка слышали тезис, что средняя продолжительность жизни увеличивается с каждым годом? Не дайте ввести себя в заблуждение этим утверждением! Средняя продолжительность жизни действительно увеличивается, но что это значит на самом деле?

Могут ли системы искусственного интеллекта обрести сознание? По словам представителей Ассоциации математического исследования сознания (AMCS), ответ на этот вопрос никто сегодня дать не может, но хуже то, что научных изысканий в этой области ведется слишком мало. Без своевременного изучения вопросов сознания систем ИИ люди окажутся перед лицом реальных проблем правового, этического и технического характера. Например, если ИИ разовьет сознание, правильно ли будет выключать его после использования?

Изобретатель Стивен Талер похож на героя фантастического романа: он любит созданный им ИИ DABUS и стремится доказать всем, что тот разумен и заслуживает человеческие права. DABUS, в отличие от популярных нейросетей, не отвечает на запросы пользователей, а генерирует идеи когда захочет. Талер пытается оформить патенты на изобретения, сделанные DABUS, на имя самой системы, но почти везде получает отказы. На днях и Верховный суд Великобритании решил, что держателем патента может быть только человек.

Midjourney, одна из ведущих компаний в области технологий искусственного интеллекта, запустила публичное тестирование новой модели своей одноименной нейросети — Midjourney V6. Новая версия Midjourney показала значительное усовершенствование в воспроизведении сложных визуальных сцен без ущерба детализации.

OpenAI внедряет новые меры безопасности для борьбы с возможными угрозами со стороны искусственного интеллекта. Компания создала «консультативную группу по безопасности», которая будет контролировать работу технических команд и давать рекомендации руководству. Кроме того совету директоров предоставлено право вето в отношении решений гендиректора. Эти меры, как полагает вернувшийся к управлению OpenAI Сэм Альтман, позволят компании снять вопросы прозрачности и безопасности работ над передовыми системами ИИ.

Автор: @high_fly. 14 декабря OpenAI опубликовали статью weak-to-strong generalization, в которой показывают, что люди смогут улучшать полезность потенциально созданного в будущем сильного искусственного интеллекта несмотря на то, что будут глупее него. При этом, судя по всему, людям будет очень сложно оценивать ответы сильного ИИ, и RLHF в нынешнем его виде будет работать не слишком хорошо.

Пока конфликт между Сэмом Альтманом и советом директоров OpenAI еще только назревал, компания создала команду по предотвращению потенциально опасных ситуаций выхода сверхразумного интеллекта из-под контроля. Журналисты TechCrunch побеседовали с ее членами и выяснили, насколько реальна, по их мнению, угроза и какие меры разрабатывает компания, чтобы не допустить «восстания машин».

Автор: Ваулин Арис Ефимович. Одинокий человек чаще испытывает тревогу и даже страх. Социальная изоляция ухудшает эмоциональный фон – у одиноких людей чаще возникают депрессии и тревожные расстройства, нарушения когнитивных функций. Человек нуждается в общении и поддержке, в одобрении: кто-то больше, кто-то меньше. В одиночестве большинство людей деградируют и чахнут.

Необходимо тщательно проработать законодательную базу для развития нейросетей, поскольку они уже широко применяются и в сфере обеспечения безопасности, заявил ТАСС президент Российской академии наук, академик Геннадий Красников.