TensorRT部署ChatGLM-6B

[imoldpan]

官方教程中有提到：

另外还有一个项目，lyraChatGLM

看了下，有可能是基于以下这个：

• https://github.com/NVIDIA/FasterTransformer

实现的：

参考

• TMElyralab/lyraChatGLM · Hugging Face