В "Эксмо" назвали критерии проверки книг с помощью ИИ

МОСКВА, 5 авг — РИА Новости.

Издательство «Эксмо» использует искусственный интеллект для проверки книг на наличие упоминаний о наркотиках, экстремизме, иноагентах и других запрещенных темах. Тексты проходят многоуровневый анализ, который помогает выявлять потенциально опасный контент, сообщил РИА Новости генеральный директор издательства Евгений Капьев.

«Наша система предназначена для глубокого анализа текстов, в том числе на иностранных языках, с целью выявления контента, нарушающего законодательство», — отметил Капьев.

По его словам, процесс выстроен по многоуровневой схеме с использованием нескольких типов программных агентов, что повышает точность и снижает риски. На первом этапе текст делится на фрагменты, достаточно компактные для обработки.

«Затем фрагменты направляются трем агентам первого уровня, каждый из которых отвечает за свою тему: секс, наркотики и экстремизм. Кроме основной цепочки, в системе работают и другие агенты, отслеживающие упоминания иноагентов и запрещенных организаций, педофилию, чайлдфри*, ЛГБТ*, дискредитацию армии и ненормативную лексику», — пояснил глава издательства.

После этого результаты анализирует агент второго уровня, который отсекает очевидные ложные срабатывания. Оставшиеся случаи передаются на третий, наиболее сложный уровень, где используются самые продвинутые и дорогие модели, обученные на действующем законодательстве и судебной практике. Их задача, как отметил Капьев, — классифицировать нарушение.

«Главный принцип системы таков: машина не принимает окончательного решения. Ее задача — отсеять явно безопасный контент и передать все, что вызывает хотя бы минимальный риск, на проверку живому редактору», — заключил Капьев.

*движение признано экстремистским и запрещено в России.

Источник и фото - ria.ru