Latency per Completed Taskとは
LATENCY PER COMPLETED TASK
読み: Latency per Completed Task
Latency per Completed Taskとは、AIがひとつのタスクを完了させるために要する時間の指標である
読み: Latency per Completed Task
モデルの推論速度だけでなく、ネットワークやシステム全体の応答性を測る尺度として用いられる。
