Наряду с поддержкой RTX Video Super Resolution на видеокартах серии GeForce RTX 20, NVIDIA представила программную библиотеку TensorRT-LLM для Windows. TensorRT-LLM – это библиотека с открытым исходным кодом, специально адаптированная для больших языковых моделей (Large Language Models), которая уже была представлена для ускорителей ЦОД и доступна в режиме Early Access. TensorRT-LLM еще раз показывает, что дальнейшее развитие и оптимизация программного обеспечения могут...
... читать далее
Показано с 1 по 1 из 1
-
18.10.2023, 19:27 #1
- Регистрация
- 29.10.2019
- Сообщений
- 1,414
TensorRT-LLM для Windows и видеокарт RTX – ускорение и оптимизация генеративного ИИ