Słuchaj 50% taniej przez pół roku

Znajdź swoją nową ulubioną opowieść - teraz za jedyne 22,45 zł miesięcznie przez pierwsze 6 miesiący.

  • Czytaj i słuchaj jak chcesz i ile chcesz
  • Ponad 500 000 tytułów
  • Tytuły dostępne wyłącznie w Storytel oraz Storytel Originals
  • Łatwa rezygnacja w dowolnym momencie
Skorzystaj z promocji
Cover for TensorRT Inference Optimization: The Complete Guide for Developers and Engineers

TensorRT Inference Optimization: The Complete Guide for Developers and Engineers

Język
Angielski
Format
Kategoria

Literatura Faktu

"TensorRT Inference Optimization"

"TensorRT Inference Optimization" is the definitive guide to harnessing the full power of NVIDIA's TensorRT for high-performance deep learning inference. Beginning with a foundational overview of deep learning inference workflows, model format interoperability, and precision modes, the book systematically explores the architectural principles behind TensorRT and practical strategies for optimizing and deploying neural networks across a spectrum of hardware platforms—from data center GPUs to edge devices. Readers gain an in-depth understanding of model conversion processes, handling custom operators, and ensuring reliable and efficient model deployment in real-world production environments.

The book delves into advanced engine optimization techniques including graph-level transformations, memory management, calibration for lower-precision inference, and the integration of custom plugin layers through high-performance CUDA kernels. Comprehensive coverage is also given to deployment architectures, scalable serving solutions such as Triton, multi-GPU/multi-instance scaling, and robust practices for model versioning, security, and continuous integration/deployment. Profiling and benchmarking chapters provide hands-on methodologies for identifying bottlenecks and balancing throughput, latency, and accuracy, ensuring peak system performance.

Catering to both practitioners and researchers, the guide navigates state-of-the-art topics such as asynchronous multi-stream inference, distributed and federated deployment scenarios, post-training quantization, sequence model optimization, and automation within MLOps pipelines. Concluding with future trends, open challenges, and the expanding TensorRT community ecosystem, this volume is an essential resource for professionals seeking to maximize deep learning inference efficiency and drive innovation in AI-powered applications.

© 2025 HiTeX Press (E-book): 6610001024444

Wydanie

E-book: 20 sierpnia 2025

Książki podobne do TensorRT Inference Optimization: The Complete Guide for Developers and Engineers

  1. Gra o tron
    Gra o tronGeorge R.R. Martin
    4.9
  2. Alkoiluzja: Wyjście z alkoholowej sekty
    Alkoiluzja: Wyjście z alkoholowej sektyRobert Rutkowski, Irena A. Stanisławska
    4.1
  3. Chiny jednego dziecka
    Chiny jednego dzieckaPiotr Sochoń, Weronika Truszczyńska, Nadia Urban
    4.7
  4. Kwantechizm 2.0, czyli klatka na ludzi
    Kwantechizm 2.0, czyli klatka na ludziAndrzej Dragan
    4.8
  5. Quo vAIdis
    Quo vAIdisAndrzej Dragan
    4.6
  6. Trigger. Jak odzyskać wpływ, kiedy steruje nami przeszłość
    Trigger. Jak odzyskać wpływ, kiedy steruje nami przeszłośćMarianna Gierszewska
    4.3
  7. Inteligencja emocjonalna
    Inteligencja emocjonalnaDaniel Goleman
    4.7
  8. 21 lekcji na XXI wiek
    21 lekcji na XXI wiekYuval Noah Harari
    4.5
  9. Dług. Reportaże spod kreski
    Dług. Reportaże spod kreskiAleksandra Gałka-Reczko
    4.6
  10. Przegryw. Mężczyźni w pułapce gniewu i samotności
    Przegryw. Mężczyźni w pułapce gniewu i samotnościAleksandra Herzyk, Patrycja Wieczorkiewicz
    4.5
  11. Mein Kampf: Moja walka
    Mein Kampf: Moja walkaAdolf Hitler
    3
  12. Służące do wszystkiego
    Służące do wszystkiegoJoanna Kuciel-Frydryszak
    4.7
  13. Uwięzieni w grach relacyjnych. Jak wygrać bliskość
    Uwięzieni w grach relacyjnych. Jak wygrać bliskośćAgnieszka Kozak, Zbigniew Rećko
    4.8
  14. Otoczeni przez idiotów: Jak dogadać się z tymi, których nie możesz zrozumieć
    Otoczeni przez idiotów: Jak dogadać się z tymi, których nie możesz zrozumiećThomas Erikson
    4.3
  15. Jestem z gwiazd: Robert Bernatowicz w rozmowie z Anną Matusiak
    Jestem z gwiazd: Robert Bernatowicz w rozmowie z Anną MatusiakAnna Matusiak, Robert Bernatowicz
    4.2
  16. Noski. Tak ćpają polskie dzieci
    Noski. Tak ćpają polskie dzieciPiotr Mieśnik, Magda Mieśnik
    4.6
  17. Spod kozetki: O pewnym psychiatrze i jego najdziwniejszych przypadkach
    Spod kozetki: O pewnym psychiatrze i jego najdziwniejszych przypadkachGigi Vorgan, Gary W. Small, Gary W. Small, Gigi Vorgan
    4.7
  18. Slow sex. Uwolnij miłość
    Slow sex. Uwolnij miłośćMarta Niedźwiecka, Hanna Rydlewska
    4.1
  19. Jak wyjść z siebie. O złudzeniu niezależności i sile społecznych więzi
    Jak wyjść z siebie. O złudzeniu niezależności i sile społecznych więziAgata Sikora
    5
  20. Kryminalne Trójmiasto: Zbrodnie i skandale, które wstrząsnęły Gdańskiem, Gdynią i Sopotem
    Kryminalne Trójmiasto: Zbrodnie i skandale, które wstrząsnęły Gdańskiem, Gdynią i SopotemMikołaj Podolski
    4
  21. Dobrze wychowani: Jak wytresowano milenialsów
    Dobrze wychowani: Jak wytresowano milenialsówEwa Koza
    3.9
  22. Oczy szeroko otwarte. Polska strategia na czas wojny światowej
    Oczy szeroko otwarte. Polska strategia na czas wojny światowejJacek Bartosiak
    4.7
  23. Nexus: Krótka historia informacji
    Nexus: Krótka historia informacjiYuval Noah Harari
    4.6
  24. Może (morze) wróci
    Może (morze) wróciBartek Sabela
    4.3
  25. Tak działa mózg. Jak mądrze dbać o jego funkcjonowanie
    Tak działa mózg. Jak mądrze dbać o jego funkcjonowanieJoanna Podgórska
    4.5

Wybierz swoją subskrypcję:

  • Ponad 500 000 tytułów w cenie jednego abonamentu

  • Słuchaj i czytaj w trybie offline

  • Ekskluzywne produkcje audio Storytel Original

  • Tryb dziecięcy Kids Mode

  • Anuluj kiedy chcesz

Najpopularniejsze

Unlimited

Dla tych, którzy chcą słuchać i czytać bez limitów.

44.90 zł /30 dni

  • 1 konto

  • Nieograniczony Dostęp

  • Słuchanie bez limitów

  • Anuluj w dowolnym momencie

Skorzystaj z promocji

Premium

Dla tych, którzy słuchają i czytają niemal każdego dnia.

34.90 zł /30 dni

  • 1 konto

  • 50 godzin/miesięcznie

  • Anuluj w dowolnym momencie

Wypróbuj

Family

Dla tych, którzy chcą dzielić się historiami ze znajomymi i rodziną.

Od 59.90 zł /30 dni

  • 2-3 konta

  • Nieograniczony Dostęp

  • Słuchanie bez limitów

  • Anuluj w dowolnym momencie

Ty + 1 członek rodziny

2 konta

59.90 zł /30 dni

Wypróbuj

Basic

Dla tych, którzy słuchają i czytają od czasu do czasu.

24.90 zł /30 dni

  • 1 konto

  • 25 godzin/miesięcznie

  • Anuluj w dowolnym momencie

Wypróbuj