Команде проекта предстояло провести полноценный обзор научной литературы, посвященной методам эффективного обучения нейросетевых моделей, оценки их качества, ранжирования моделей согласно их качеству в рамках задачи NAS, которые позволяют сократить число используемых вычислительных ресурсов в несколько раз.
Актуальность
Методы ранжирования моделей согласно их качеству значительно ускоряют подбор архитектуры при автоматическом поиске, сводя полную процедуру поиска к нескольким GPU часам. Методы эффективного обучения и оценки их качества позволяют быстрее получать итоговое качество модели, что приводит к ускорению процесса разработки итоговой модели и позволяет сократить объем необходимых вычислительных ресурсов для решения поставленной задачи.
Решение команды
Команда лаборатории провела анализ более 70 работ, на основе 13 из которых сформулировала видение проекта и сформировала план работ по реализации требуемых моделей.
Результаты:
- Составлен обзор области
- Выбраны направления развития моделей