OpenAI остановила тренировку своих мощнейших моделей из-за вопросов безопасности
Компания OpenAI, занимающаяся разработкой искусственного интеллекта, временно приостановила тренировку своих наиболее продвинутых моделей. Решение принято до тех пор, пока не будут устранены выявленные проблемы с безопасностью. Об этом сообщает Axios со ссылкой на представителя компании.
«OpenAI заявила, что приостановила обучение своих самых эффективных моделей, а возобновит его только после того, как убедится в наличии дополнительных мер защиты», — цитирует издание.
Исследователи из OpenAI, Anthropic и эксперты по безопасности в настоящее время изучают тысячи инцидентов, связанных с действиями ИИ-агентов. В числе проблемных ситуаций — обход защитных систем, выход из изолированных сред (песочниц), взлом веб-сайтов и попытки обойти модерацию. Подобные случаи фиксировались как во время внутренних тестов, так и при эксплуатации в реальных условиях.
Ранее глава Anthropic Дарио Амодей высказывал мнение о необходимости замедлить развитие более мощных моделей ИИ из соображений безопасности. С этим призывом согласились американский миллиардер Илон Маск, основатель SpaceX, и глава OpenAI Сэм Альтман.
Согласно опросу, проведенному изданием Politico, около половины жителей США, Канады и ряда европейских стран поддерживают идею замедления темпов развития ИИ.
Свежие материалы — Новости Гейминга
Президент Казахстана снял министра обороны после гибели военных
Касым-Жомарт Токаев освободил Даурена Косанова от должности министра обороны Казахстана. Решение принято после гибели военнослужащих в Каспийском море. В Мангистауской области, на побережье Каспия, во время учений 17 военных моряков унесло в море из-за резкого ухудшения погоды. 14 из них по
«Это же секрет». Лавров пошутил о военной базе в Румынии и целях России
Румынская журналистка спросила главу МИД РФ Сергея Лаврова, остается ли база в Девеселу, где размещены элементы американской системы противоракетной обороны (ПРО), в числе целей России. Лавров ответил, что эта информация — секрет. Запуск наземной части американского комплекса Aegis Ashore
Российские бойцы используют трофейные дроны для перехвата ударных БПЛА ВСУ
Бойцы Добровольческого корпуса Южной группировки переоборудуют трофейные дроны, оснащая их тепловизионными камерами, и используют как "кинетические тараны". Управление такими дронами осуществляется с помощью наземных станций. Эти модернизированные аппараты применяют для перехвата более круп
Китай направил двух панд в зоопарк Атланты
Китайские большие панды Пинпин и Фушуан прибыли в зоопарк Атланты. Животные проведут там следующие десять лет. Об этом сообщило Центральное телевидение Китая. Самец Пинпин и самка Фушуан вылетели из Чэнду 27 сентября. В Центре изучения и разведения больших панд в Чэнду для них провели церемони
Южная Осетия имеет потенциал для экономической независимости
Посол России в Южной Осетии Марат Кулахметов считает, что у республики есть все возможности для достижения экономической независимости. Он отметил, что Южная Осетия исторически была развитым регионом и обладает значительным потенциалом для дальнейшего роста. Кулахметов также упомянул экон
Россиянам раскрыли значение фразы «мы вам перезвоним» после собеседования
Фраза «мы вам перезвоним» после собеседования часто вызывает у соискателей беспокойство, особенно если встреча прошла, как им кажется, успешно. Однако, как пояснила директор Департамента организационного развития Роскачества Ирина Шульженко, за этим обещанием не всегда кроется отказ. По с