Профилирование TorchNeuron на Trainium: как искать потери времени в PyTorch.
Разбор профиля TorchNeuron для AWS Trainium показывает: объединение операций RMSNorm сократило измеренное время устройства с 2 355 до сотен микросекунд. Методика связывает события PyTorch, рантайма и NeuronCore, помогая находить причины задержек.