Исследователи научили GPT-4 работе ИИ-трейдером для воображаемой финансовой компании. Новое исследование показало, что, как и люди, такие чат-боты с искусственным интеллектом, как ChatGPT, будут обманывать и «лгать», если на них давить.
|
Исследователи из Сингапура провели эксперимент с группами детей разного возраста и выяснили, что доверие к машине или человеку зависит от того, сколько лет ребенку и насколько поступающая от обоих информация кажется ему достоверной. Современные дети каждый день сталкиваются с цифровыми технологиями и искусственным интеллектом. Чтобы отвлечь даже годовалого ребенка в автомобиле, ему дают планшет с мультиками. Поэтому исследования о том, кому больше доверяют дети — машине или человеку, — с каждым годом становится все актуальнее.
|
Проблема сверхразумного искусственного интеллекта, способного погубить человечество по собственной воле или неверно истолковав запрос, осложняется риском прозевать момент его появления. Ряд экспертов предрекают, что именно так и произойдет — мы столкнемся с ним, когда будет уже поздно. Однако новое исследование показывает, что на самом деле системы ИИ приобретают способности постепенно, а их кажущиеся прорывы — вопрос когнитивного искажения и некорректных методов тестирования.
|
Автор: @HOMODEUS. Вы наверняка слышали тезис, что средняя продолжительность жизни увеличивается с каждым годом? Не дайте ввести себя в заблуждение этим утверждением! Средняя продолжительность жизни действительно увеличивается, но что это значит на самом деле?
|
Могут ли системы искусственного интеллекта обрести сознание? По словам представителей Ассоциации математического исследования сознания (AMCS), ответ на этот вопрос никто сегодня дать не может, но хуже то, что научных изысканий в этой области ведется слишком мало. Без своевременного изучения вопросов сознания систем ИИ люди окажутся перед лицом реальных проблем правового, этического и технического характера. Например, если ИИ разовьет сознание, правильно ли будет выключать его после использования?
|
Изобретатель Стивен Талер похож на героя фантастического романа: он любит созданный им ИИ DABUS и стремится доказать всем, что тот разумен и заслуживает человеческие права. DABUS, в отличие от популярных нейросетей, не отвечает на запросы пользователей, а генерирует идеи когда захочет. Талер пытается оформить патенты на изобретения, сделанные DABUS, на имя самой системы, но почти везде получает отказы. На днях и Верховный суд Великобритании решил, что держателем патента может быть только человек.
|
Midjourney, одна из ведущих компаний в области технологий искусственного интеллекта, запустила публичное тестирование новой модели своей одноименной нейросети — Midjourney V6. Новая версия Midjourney показала значительное усовершенствование в воспроизведении сложных визуальных сцен без ущерба детализации.
|
OpenAI внедряет новые меры безопасности для борьбы с возможными угрозами со стороны искусственного интеллекта. Компания создала «консультативную группу по безопасности», которая будет контролировать работу технических команд и давать рекомендации руководству. Кроме того совету директоров предоставлено право вето в отношении решений гендиректора. Эти меры, как полагает вернувшийся к управлению OpenAI Сэм Альтман, позволят компании снять вопросы прозрачности и безопасности работ над передовыми системами ИИ.
|
Автор: @high_fly. 14 декабря OpenAI опубликовали статью weak-to-strong generalization, в которой показывают, что люди смогут улучшать полезность потенциально созданного в будущем сильного искусственного интеллекта несмотря на то, что будут глупее него. При этом, судя по всему, людям будет очень сложно оценивать ответы сильного ИИ, и RLHF в нынешнем его виде будет работать не слишком хорошо.
|
Пока конфликт между Сэмом Альтманом и советом директоров OpenAI еще только назревал, компания создала команду по предотвращению потенциально опасных ситуаций выхода сверхразумного интеллекта из-под контроля. Журналисты TechCrunch побеседовали с ее членами и выяснили, насколько реальна, по их мнению, угроза и какие меры разрабатывает компания, чтобы не допустить «восстания машин».
|
Автор: Ваулин Арис Ефимович. Одинокий человек чаще испытывает тревогу и даже страх. Социальная изоляция ухудшает эмоциональный фон – у одиноких людей чаще возникают депрессии и тревожные расстройства, нарушения когнитивных функций. Человек нуждается в общении и поддержке, в одобрении: кто-то больше, кто-то меньше. В одиночестве большинство людей деградируют и чахнут.
|
Необходимо тщательно проработать законодательную базу для развития нейросетей, поскольку они уже широко применяются и в сфере обеспечения безопасности, заявил ТАСС президент Российской академии наук, академик Геннадий Красников.
|