☑️ Российские ученые создали алгоритмы проверки надежности ИИ
Специалисты Московского государственного психолого-педагогического университета представили алгоритмы и специальное программное обеспечение, которые эффективно обнаруживают «галлюцинации» в больших языковых моделях — случаи, когда ИИ выдает убедительные, но ошибочные ответы.
Инструменты проверяют точность откликов чат-ботов и других ассистентов, а также автоматически формируют запросы на основе кратких описаний, что сильно упрощает работу инженеров по настройке промптов.
В основе метода лежат два взаимосвязанных алгоритма. Первый подбирает наиболее подходящие вопросы к существующим ответам. Второй оценивает, насколько правдивы содержащиеся в них утверждения. Ученые перевели запросы и ответы в метрические пространства. Такой прием дает четкие числовые показатели смысловых отличий и позволяет использовать для анализа проверенные статистические методы.
Роботехника
