Aurelius sn37

Aurelius — это децентрализованная платформа для создания высококачественных данных по выравниванию ИИ путем систематического тестирования языковых моделей для выявления сбоев безопасности и поведения в граничных случаях. Она оценивает ответы по нескольким этическим и защитным параметрам, используя инструменты модерации с открытым исходным кодом, судей на основе LLM и пользовательские метрики выравнивания. Цель состоит в создании прозрачной и проверяемой основы для исследований выравнивания и построении долгосрочной экосистемы, где разнообразные точки зрения помогают определить, измерить и улучшить безопасность все более мощных систем ИИ.