ВОЗ назвала риски использования ChatGPT при постановке диагнозов

17 мая 2023 в 1684296360
«Зеркало»

Искусственный интеллект следует использовать с осторожностью в медицине, в том числе при постановке диагнозов, предупредили во Всемирной организации здравоохранения (ВОЗ). Там призвали тщательно изучать риски при работе с ChatGPT, Bard, Bert и подобными платформами.

Вот что вызывает опасения у организации:

• искусственный интеллект может обучиться на основе предвзятых данных и из-за этого генерировать неверную информацию, способную нанести «ущерб здоровью и инклюзивности»;
• иногда чат-боты генерируют ответы, которые кажутся пользователю достоверными и правдоподобными, но на деле являются совершенно неверными;
• не все чат-боты обучены защищать предоставленную им пользователем чувствительную информацию, в том числе касающуюся его здоровья;
• чат-боты могут генерировать информацию в форме текста, аудио- и видеоконтента, которая выглядит «очень убедительно», а пользователи не всегда в состоянии отличить обман от достоверных данных.

ВОЗ одобряет «надлежащее использование технологий», но подчеркивает важность «прозрачности, инклюзивности, участия общественности, контроля экспертов и тщательной оценки» перед тем, как чат-боты начнут активно применять в здравоохранении.