Искусственный интеллект научился определять расу по рентгеновскому снимку

Оказывается, искусственный интеллект (ИИ) способен видеть вещи, которые люди по своей природе не могут видеть. Исследователи обнаружили, что ИИ может идентифицировать расу по рентгеновским изображениям, несмотря на то, что эксперты-люди не видят разницы.

Фото из открытых источников

Основываясь только на рентгеновских снимках и компьютерной томографии, искусственный интеллект смог идентифицировать расу примерно с 90-процентной точностью, и ученые не могут понять, как он может это сделать.

Полученные результаты свидетельствуют о том, что при внедрении ИИ в медицинские технологии необходимо соблюдать крайнюю осторожность, поскольку даже при предоставлении изображений, которые считаются анонимными, размытыми или иным образом поврежденными, ИИ все равно сможет дать им оценку. Исследование было опубликовано в журнале Lancet Digital Health.

«Когда мои аспиранты показали мне некоторые результаты, я действительно подумал, что это ошибка», - сказал доцент MIT по электротехнике и информатике и соавтор статьи Марзие Гассеми. «Я честно думал, что мои студенты сошли с ума, когда они мне сказали».

Чтобы проверить способность ИИ идентифицировать изображения, ему загрузили КТ и рентгеновские изображения различных частей тела различных групп людей, причем каждое изображение было помечено расой человека. Затем метки были удалены вместе с любыми возможными идентифицирующими признаками, такими как цвет кожи и цвет волос. Для каждого изображения ИИ было предложено определить расу человека.

Для всех областей тела ИИ смог идентифицировать расу с точностью около 90 процентов, даже без каких-либо идентифицирующих признаков.

Исследователи пытались понять, использовал ли ИИ статистику, чтобы сделать предположение, основанное на параметрах тела, таких как индекс массы тела (ИМТ) или плотность груди. Ученые исключили возможные ковариации и показали только наборы данных ИИ людей с похожим ИМТ и типами телосложения, но все же ИИ смог определить расу.

Как он может это сделать? Честно говоря, исследователи не могут понять.

Это не первый случай, когда искусственный интеллект удивляет ученых, идентифицируя расу в почти невозможных условиях. Исследователи предполагают, что искусственный интеллект может идентифицировать вариации меланина между кожей чернокожих и белых людей, которые могут проявляться при компьютерной томографии и рентгеновских снимках, а люди просто никогда этого не замечали. Однако это всего лишь одна идея.

Несмотря на это, информация должна вызвать серьезную озабоченность по поводу использования ИИ в больницах и того, как могут по-разному реагировать на разные расы.