明略科技开源TensorBoard.cpp，助力大模型预训练

【CC博客】8月11日消息，近日，明略科技集团实现了机器学习可视化工具——TensorBoard的C++接口，进一步丰富了基于C++的大模型项目工具集，使得大模型预训练过程监控更加便捷、高效，加速营销领域大模型预训练进程。该工具已在Github开源。

TensorBoard是Google开发的一款机器学习可视化工具，常用于监测机器学习过程的各项指标。

明略科技高级技术总监赵亮介绍：“在大模型训练过程中，数据监测是一个重要维度，而TensorBoard通过可视化模型中的各种参数和结果，例如记录大模型训练过程的Loss变化、验证集的PPL变化、学习率变化、Token消耗量、单步参数更新时延等指标，帮助分析训练状态，发现训练过程中出现的问题并及时采取干预措施，提升大模型训练进程和效果。”

明略科技开源的C++接口TensorBoard工具页面

此前，TensorBoard仅支持Python语言接口。此次明略科技通过C++实现TensorBoard，将进一步丰富基于C++实现的大模型项目工具集，大幅提升模型训练监测效率，加速模型训练进程，改写接口后的工具将通过多维度的数据模式展示训练指标，包括标量、直方图、图像、图像合集、音频、文本等数据模式。该工具包通过github项目Tensorboard.cpp分享，助力更多研究者和开发者参与并加速大模型的研发进程，推动人工智能多领域的应用探索。

明略科技在Github开源的两款工具包：ASR-BlockFormer与tensorboard.cpp

明略科技集团CTO郝杰表示：“我们要在更高效、更低成本的要求下做出营销领域的大模型，通过自适应技术提升大模型的能力。好的行业大模型需要具备通用大模型的逻辑性、语言顺畅度，同时还需要实现通用大模型所不具备的，在某个行业内或具体的领域中的真实性、专业性。我们以明略科技凭借17年来积累的海量行业数据为基础，从客户实际需求出发，借助庞大的数据和知识库进行增强训练，满足客户多样化的任务和场景需求。在训练监测可视化工具的加持下，我们将提升训练速度，及时发现问题，为客户打造一个更加可靠、效果更好的行业大模型。”