Читать 2 мин. 7 сек.Япония

Sony проведёт "этическую ревизию" ИИ в 2021 году

Sony проведёт "этическую ревизию" ИИ в 2021 году
От разработки продукта до его выпуска компания будет проверять элементы с искусственным интеллектом в соответствии с её руководящими принципами

Фото: Nikkei

/ЕНВ/ Как стало известно Nikkei, Sony начнет проверку своих продуктов, в которых используется искусственный интеллект, на предмет этических рисков уже весной 2021 года. Если продукт будет сочтен этически неприемлемым, компания либо улучшит продукт, либо остановит его разработку.

Хотя ИИ предлагает потребителям больше удобства, он может невольно вызвать неловкие проблемы, такие как выявление социальных предубеждений из-за непонимания того, как ИИ учится. По мере того как ИИ находит свое применение во все большем количестве устройств, ответственность разработчиков возрастает, а компании ужесточают руководящие принципы, регулирующие этику ИИ.

Sony планирует отразить свои принципы этики ИИ в существующих процедурах контроля качества. Японские компании редко учитывают этику ИИ при оценке безопасности продукции.

От разработки продукта до его выпуска Sony будет проверять элементы с искусственным интеллектом в соответствии с руководящими принципами, включая меры защиты конфиденциальности. Любые продукты, не соответствующие критериям этической работы ИИ, будут изменены или исключены.

Генеральный директор Sony вместе со своим председателем назначает членов комитета по этике ИИ из числа имеющихся сотрудников. Комитет проверяет степень соответствия, как это определено руководящими принципами.

Даже продукты, находящиеся на стадии разработки, могут быть отброшены. Продукты, которые уже были проданы, также могут быть отозваны при обнаружении проблем.

Во всем мире растет озабоченность по поводу рисков дискриминации и злоупотреблений со стороны ИИ. В 2019 году регулирующий орган США расследовал дело Goldman Sachs на предмет возможной дискриминации по признаку пола при установлении лимитов по кредитным картам. Это последовало за инцидентом 2018 года в Google, сотрудники которого обнаружили, что технология искусственного интеллекта компании используется в беспилотных военных летательных аппаратах, что побудило тысячи сотрудников выразить протест высшему руководству.

Nvl Новости Восточной Ленты
автор статьи пожаловаться на статью