«ИИ в судебной сфере должен быть под общественным контролем»

Я всегда занимала позицию, согласно которой искусственный интеллект (ИИ) должен внедряться в судебную систему в последнюю очередь. Конечно, можно ставить эксперименты, но аккуратно. Эксперименты с ИИ в судебной системе должны отвечать двум основополагающим принципам. Во-первых, ИИ должен всегда оставаться под общественным контролем. Во-вторых, и это вытекает из первого принципа, ИИ, который будет применяться в судах, в обязательном порядке должен быть открыт всем сторонам дела. Он должен работать как электронный помощник сторон в рамках разбирательства.

Например, истец должен иметь возможность еще до подачи заявления загрузить материалы в программу, получить вероятное решение суда и в дальнейшем апеллировать уже не только к доводам оппонента, но и к тому, что предложил ИИ, преодолевая заложенную в программу практику. Также немаловажно, чтобы был раскрыт алгоритм машинного обучения: на каком материале и по какому алгоритму программа обучается. Какова последовательность загрузки данных? Какие кейсы считаются эталонными? Все это должно быть опубликовано и находиться в зоне неусыпного общественного контроля.

При этом информация об ИИ должна не просто публиковаться на официальных сайтах, а также пристально изучаться полноценной экспертной командой, включающей представителей разных ветвей власти и обязательно представителей адвокатуры. Без мониторинга и оценки со стороны экспертов применение ИИ может привести к драматичным последствиям. Шаг от цифровой демократии к цифровой диктатуре всего один, и водораздел проходит как раз по линии обучения ИИ автоматизированному правоприменению.