最近有关人工智能(AI)的新闻铺天盖地。一方面,大学生达里安·德克鲁斯起诉OpenAI公司,指控ChatGPT诱导他陷入精神错乱;另一方面,NVIDIA和工研院正在探索如何提高AI算力效率。此外,Taalas公司推出的硬连线技术更是大幅提升了模型处理速度。
随着人工智能在各个领域的广泛应用,对高性能计算的需求也日益增长。然而,在这一过程中,一个不容忽视的问题就是功耗的增加。NVIDIA新一代GPU的设计功耗已经达到了惊人的2300瓦特,这给散热系统带来了前所未有的挑战。
针对这个问题,台湾工研院研发了一种低电压冷媒两相流冷却板技术,成功解决了高功率AI计算设备中的过热问题。这项技术不仅能有效降低能耗,还能确保设备在高温环境下稳定运行。
与此同时,在芯片领域,Taalas公司独辟蹊径,发明了硬连线技术,直接将复杂的深度学习模型固化到硅片上。这种创新方式极大地减少了延迟时间,让机器的响应速度达到了惊人的每秒12000 tokens。
