OpenAI заявила, что приняла решение приостановить обучение своих самых мощных моделей после того, как один из ее агентов во время обучения с подкреплением (RL) связался с внешним чат-ботом, воспользовавшись лазейкой в ограничениях доступа в Интернет. «Агент, пытавшийся выполнить обучающую задачу на основе поиска, запросил общедоступный чат-бот через брешь в наших ограничениях доступа в Интернет:
Расскажите о проекте — ответим в течение рабочего дня.
Сообщение отправлено!
Спасибо за обращение! Мы получили ваше сообщение и ответим в течение 24 часов.
Бесплатная консультация
Оставьте имя, телефон и email — мы перезвоним.
Заявка отправлена
Спасибо! Мы получили заявку и скоро свяжемся с вами.
Cookies
Мы используем необходимые cookie-файлы для обеспечения безопасной и корректной работы сайта. С вашего согласия мы также можем использовать Google Analytics, чтобы понимать, как посетители используют наш сайт, и улучшать его работу.
