ChatGPT недокормил подростков с ожирением

При создании рациона для похудения ChatGPT и подобные чаты на основе искусственного интеллекта недооценили потребность подростков с ожирением в калориях по сравнению с рекомендациями диетолога. Так они создали диету, в которой не хватало почти 700 килокалорий — это как полноценный прием пищи. Поскольку подростки особенно подвержены расстройствам пищевого поведения и восприятия полученной в интернете информации, важно, чтобы у них был доступ к проверенным данным относительно их здоровья. Исследование было опубликовано в журнале Frontiers in Nutrition.

Чем опасна диета от чата?

Поскольку в последнее время многие люди стали обращаться к искусственному интеллекту за советами по похудению, ученые решили проверить, насколько обоснованными будут эти советы. Для этого они дали пяти популярным чатам – ChatGPT-4o, Gemini 2.5 Pro, Claude 4.1, Bing Chat-5GPT и Perplexity – задача разработать рационы для четырех подростков с избыточным весом или ожирением и сравнили эти рационы с рекомендациями диетолога.

Как оказалось, кроме недооцененной потребности в калориях искусственный интеллект также отклонялся от нормального соотношения основных нутриентов: белков, жиров и углеводов. Так в созданном чатботами рационе 21,5-23,7 процента энергии происходило из белков, а 41,5-44,5 процента – из жиров. Это выше рекомендованных 15-20 процентов для белка и 30-35 процентов для жиров. Такое смещение может создавать дополнительную нагрузку на почки и печень, ответственные за расщепление и выведение этих нутриентов.

Несмотря на то, что рекомендации Всемирной организации здравоохранения относительно построения рациона доступны в интернете, ученые предполагают, что чаты на них не опираются, а используют распространенные планы диет. Это может быть связано с тем, что модели на основе искусственного интеллекта требованы давать пользователю ответ, который будет казаться наиболее правдоподобным и приятным, часто игнорируя проверку фактов. Поэтому исследователи призывают всех, кто пользуется чатами для создания рациона, сверять его ответы с рекомендациями врачей.

Какие еще угрозы для здоровья могут исходить от искусственного интеллекта

🧂 По совету ChatGPT 60-летний американец заменил поваренную соль токсичным бромидом натрия, после чего попал в больницу с отравлением и психозом.

🙅‍♀️ Из-за непонимания слова «нет» даже продвинутые модели искусственного интеллекта, способные сравнивать изображения и текст, ошиблись в определении диагнозов.

Чтобы этого не случалось, медики натренировали модель искусственного интеллекта не льстить пользователям, а давать правдивые рекомендации по приему лекарства.