英伟达李曦鹏：黄仁勋认为未来AI模型对推理性能的要求是关注的重点
2024-07-14
33275
7月5日，WAIC大会上，英伟达开发与技术部门亚太区总监李曦鹏表示，黄仁勋每周都会关心推理性能的提升，他认为未来AI模型对推理性能的要求是关注的重点。目前英伟达 TensorRT-LLM是最快的推理解决方案，但是团队也发现了更多推理优化的方式，随着一月一次的迭代，相信很快推理成本会再一次降低。（硬AI）
声明：本网所登载内容出于更直观传递信息之目的。该内容版权归原作者所有，并不代表本网赞同其观点和对其真实性负责。若有来源错误或者侵犯您的合法权益，请及时通过邮箱rwzbs@126.com与我们联系，我们会及时反馈并进行处理。
本页链接：http://todaychina.zgshjdw.com/a520000-show/news-33013.html
