タグ · 日本語
コンテナ
2 × すべてのエピソード
すべてのエピソード
遅いGPU推論の正体:CPUフォールバック、CUDA/TensorRTのバージョン不一致、コンテナ設定ミスを解決(…
GPUの請求額は増え、ダッシュボードは緑なのに、顧客は待たされている。このエピソードでは、ONNX RuntimeとTensorRTによるStable…
Azure Kubernetes…
コンテナは軽量でポータブル、どこでも同じように動きます。しかし数十、数百と増えると、製品開発ではなくスケーリングや更新、トラブル対応に時間を取られてしまいます。Kubernetes はこの問題を解決しますが、自前で運用するのは複雑です。このエピソードでは、Azure Kubernetes…