Команда разработчиков из лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (MIT CSAIL) работает над нейросетью, которая будет лишена предвзятости.
Об этом сообщила пресс-служба MIT CSAIL.
“Команда из MIT CSAIL работает над алгоритмом, который сможет автоматически “смещать” данные путем повторной выборки, чтобы сделать их более сбалансированными”, – говорится в сообщении.
Отмечается, что этот алгоритм сможет изучить как конкретную задачу, например, распознавание лица, так и лежащую в основе структуру обучающих данных, что позволит ему выявлять и минимизировать любые скрытые отклонения.
Во время тестирования алгоритм уменьшал “категорическую предвзятость” более чем на 60 % по сравнению с современными моделями обнаружения лиц, одновременно поддерживая общую точность этих систем.
Многие уже существующие подходы в этой области требуют хотя бы минимального участия человека в системе для определения конкретной предвзятости. Однако алгоритм команды MIT может обработать набор данных, не прибегая к программированию в цикле.
“В частности, классификация лиц – это технология, которая часто рассматривается как “решенная”, несмотря на то, что становится ясно, что часто используемые наборы данных не проходят надлежащую проверку. Устранение этих проблем особенно важно, поскольку мы начинаем видеть, как алгоритмы такого типа используются в сфере безопасности, правоохранительной деятельности и других областях”, – отметил соавтор исследования аспирант Александр Амини (Alexander Amini).
По его словам, алгоритм MIT будет особенно актуален для больших наборов данных, которые слишком велики для проверки вручную, а также для данных, которые выполняют другие функции, помимо обнаружения лиц.
Фото: csail.mit.edu
Ранее международная группа ученых под руководством Ярона Гуровича из Тель-Авивского университета разработала нейросеть, которая способна по фото распознать более 200 редких наследственных заболеваний.
Компания Google разработала алгоритм, который анализирует состояние пациента, а также может предсказать вероятность его смерти.
