Компания OpenAI, создавшая популярный чат-бот ChatGPT, существенно ограничила сферу его консультаций, запретив сервису давать пользователям советы по двум ключевым группам тем. Обновленные правила использования опубликованы на сайте разработчика.
В документе OpenAI прямо перечислены случаи, когда клиенты не могут получить помощь от искусственного интеллекта. Главный запрет касается «предоставления специализированных консультаций, требующих лицензии».
Это означает, что ChatGPT больше не должен давать юридические или медицинские советы, если в процесс не вовлечен соответствующий лицензированный специалист. В противном случае обращение к чат-боту запрещено.
Кроме того, сервис теперь не будет консультировать пользователей по ряду чувствительных вопросов, связанных с общественной безопасностью и социальными сферами. В этот список вошли:
- Национальная безопасность;
- Образование;
- Жилье;
- Трудоустройство.
Ужесточение правил произошло на фоне недавних инцидентов, демонстрирующих потенциальную опасность ИИ. Ранее в США был арестован школьник, который отправил опасно сформулированный запрос в ChatGPT. Подросток пытался получить от чат-бота подробную консультацию о том, как совершить расправу над своим другом.
