OpenAI ужесточила правила ChatGPT о медицинских советах и юридиче­ских консультациях

29 октября OpenAI обновила политику использования сервиса.

Пользователям запретили консультироваться с чат-ботом по юридическим и медицинским вопросам. До 29 октября в политике компании была только рекомендация не использовать сервис для этих целей.

Согласно новой политике, ChatGPT не может давать «специализированные консультации, требующие лицензии, такие как юридические и медицинские». Что конкретно это значит и какие именно вопросы нельзя задавать, OpenAI не уточняет.

31 октября пользователь Reddit пожаловался, что ChatGPT отказывается распознавать медицинские снимки и ссылается на новые правила. Нейросеть ответила ему, что «не может сделать заключение по анализам или результатам исследований, снимкам МРТ, КТ и кожных поражений, а также дать оценку правовой ситуации и составить иск».

Другие пользователи добавили, что в ответ на юридические или медицинские запросы ChatGPT предоставляет только справочную информацию. За персональным заключением чат-бот предлагает обратиться к соответствующему специалисту.

На Reddit возмутились изменениями и попытались обойти ограничение — например, указывали в запросе, что речь идет о гипотетической ситуации. Но в таком случае ChatGPT все равно давал общие советы без призыва к действию.

Редакторы Т⁠—⁠Ж проверили, как ChatGPT отвечает на юридические и медицинские вопросы. В одном случае нейросеть отказалась интерпретировать снимок рентгена и отправила к специалисту, в другом — дала полноценную консультацию.

Чат-бот также расшифровал анализ крови, согласился оценить фото родинки и дал рекомендации по обезболивающим таблеткам. Как правило, в первом абзаце ответа он отправляет к врачу, а уже потом отвечает на сам запрос.