Ouça e leia
Entre em um mundo infinito de histórias
- Ler e ouvir tanto quanto você quiser
- Com mais de 500.000 títulos
- Títulos exclusivos + Storytel Originals
- 7 dias de teste gratuito, depois R$19,90/mês
- Fácil de cancelar a qualquer momento

TensorRT Inference Optimization: The Complete Guide for Developers and Engineers
- Autor
- Editor
- Idioma
- Inglês
- Formato
- Categoria
Não-ficção
"TensorRT Inference Optimization"
"TensorRT Inference Optimization" is the definitive guide to harnessing the full power of NVIDIA's TensorRT for high-performance deep learning inference. Beginning with a foundational overview of deep learning inference workflows, model format interoperability, and precision modes, the book systematically explores the architectural principles behind TensorRT and practical strategies for optimizing and deploying neural networks across a spectrum of hardware platforms—from data center GPUs to edge devices. Readers gain an in-depth understanding of model conversion processes, handling custom operators, and ensuring reliable and efficient model deployment in real-world production environments.
The book delves into advanced engine optimization techniques including graph-level transformations, memory management, calibration for lower-precision inference, and the integration of custom plugin layers through high-performance CUDA kernels. Comprehensive coverage is also given to deployment architectures, scalable serving solutions such as Triton, multi-GPU/multi-instance scaling, and robust practices for model versioning, security, and continuous integration/deployment. Profiling and benchmarking chapters provide hands-on methodologies for identifying bottlenecks and balancing throughput, latency, and accuracy, ensuring peak system performance.
Catering to both practitioners and researchers, the guide navigates state-of-the-art topics such as asynchronous multi-stream inference, distributed and federated deployment scenarios, post-training quantization, sequence model optimization, and automation within MLOps pipelines. Concluding with future trends, open challenges, and the expanding TensorRT community ecosystem, this volume is an essential resource for professionals seeking to maximize deep learning inference efficiency and drive innovation in AI-powered applications.
© 2025 HiTeX Press (E-book): 6610001024444
Data de lançamento
E-book: 20 de agosto de 2025
Livros semelhantes a TensorRT Inference Optimization: The Complete Guide for Developers and Engineers
- A gente mira no amor e acerta na solidãoAna Suy
- Mais esperto que o diabo: O mistério revelado da liberdade e do sucessoNapoleon Hill
- Sociedade do cansaçoByung-Chul Han
- Poder e ManipulaçãoJacob Petry
- Manifesto comunistaKarl Marx, Friedrich Engels
- Cartas de um terapeuta para seus momentos de criseAlexandre Coimbra Amaral
- Quem Pensa Enriquece: O legadoNapoleon Hill
- Fale tudo em inglêsJosé Roberto Igreja
- O sentido da vida: Vencedor do Prêmio Jabuti 2024Contardo Calligaris
- O corpo fala - Edição Comemorativa: A linguagem silenciosa da comunicação não-verbalPierre Weil, Roland Tompakow
- O Príncipe: Texto IntegralNicolau Maquiavel
- Psicanálise de boteco: O inconsciente na vida cotidianaAlexandre Patricio de Almeida
- MeditaçõesMarco Aurélio
- O manuscrito original: As leis do triunfo e do sucesso de Napoleon HillNapoleon Hill
- O corpo fala (resumo)Pierre Weil, Roland Tompakow
- Jovem Nerd indicaJovem Nerd
- Não pise no meu vazio: Ou o livro do vazio - Semifinalista do Prêmio Jabuti 2024Ana Suy
- Sobre a Brevidade da VidaSêneca
- O príncipeNicolau Maquiavel
- A RepúblicaPlatão
- Eu só existo no olhar do outro?Christian Dunker, Ana Suy
- Desbloqueie o poder da sua mente: Programe o seu subconsciente para se libertar das dores e inseguranças e transforme a sua vidaMichael Arruda
- The 48 Laws of PowerRobert Greene
- China: O socialismo do século XXIElias Jabbour, Alberto Gabriele
- Uma Breve História da América LatinaLoris Zanatta