加速AI推理新宠TensorRT再进化!2023 TensorRT Hackathon大赛激燃开幕

新闻资讯   2023-07-12 13:20   51   0  

热烈欢迎!

2023 TensorRT Hackathon全新开幕!在这个火热的夏天,AI界的盛事又一次拉开帷幕!

作为NVIDIA英伟达GPU上的AI推理加速库,TensorRT在业界备受瞩目和应用。但这还不够,NVIDIA TensorRT开发团队可不甘于此,一直在不断提升产品的易用性。他们不仅让更多模型能够顺利通过ONNX自动解析进行加速,还深度优化了常见模型结构,比如MHA。这意味着大部分模型无需手动优化就能在TensorRT上轻松奔跑,而且性能绝佳!

过去的一年,AI生成内容如雨后春笋般涌现,图像和文本以批量方式被计算机生产出来,有些甚至能媲美专业创作者的画工和文采。可以预见,未来会有更多生成式AI模型大放异彩!因此,在本届比赛中,NVIDIA将生成式AI模型作为主题,打造一场前所未有的盛宴!

让我们揭开今年的TensorRT Hackathon帷幕!这已经是NVIDIA与阿里云、天池合作的第三届比赛。与往届一样,主办方希望通过比赛形式提升选手在TensorRT应用开发方面的能力,因此非常重视选手的学习过程以及选手与NVIDIA英伟达专家之间的沟通交流。

正如本次大赛的主导者之一,来自NVIDIA技术专家季光表示:“我们期待选手们通过这场比赛,在TensorRT编程相关的知识和技能上有所收获。这是一个展现创造力和智慧的舞台,选手们将面对激烈的竞争,挑战自我,不断突破技术边界。在这个AI推理的新纪元,TensorRT作为强大的加速库,将为选手们提供极致的工具和平台,让他们的想法和创意得以完美实现。我们深信,本次比赛将激发出选手们的潜力,推动AI技术的进步和创新。无论是初赛还是复赛,我们期待看到选手们展现出的卓越才华和令人惊叹的成果,为AI领域带来全新的突破和发展。”

大赛面向全社会开放,个人、高等院校、科研单位、企业、创客团队等人员均可报名参赛,组队上限3人

本次比赛分为初赛和复赛。

首先是初赛!主办方将利用TensorRT加速带有ControlNet的Stable Diffusion canny2image pipeline,以优化后的运行时间和出图质量作为主要排名依据。

初赛期间,主办方将建立一个技术交流群(注意是钉钉群),供所有选手进行研讨。

为了更顺利地完成比赛,请参赛者观看并学习NVIDIA技术专家团队为此次比赛准备的系列讲座。讲座地址:https://www.bilibili.com/video/BV1jj411Z7wG/。

专家们还为大家准备了配套范例,就像烹饪食谱一样,帮助大家更好地理解。

初赛结束时,NVIDIA将举行一次讲评,向大家介绍优化该模型的技巧。请注意,初赛不提供开发机,参赛选手需要自备带有GPU的Linux/Windows 11 (WSL2)开发机,并在给定的docker中使用赛方提供的模型文件和开发工具完成模型在TensorRT中的构建、精度验证和性能测试,并提交最终代码。

然后是复赛!

复赛是开放赛题,各位选手可以自由选择公开的transformer模型,在TensorRT上进行优化运行。好消息是,TensorRT即将发布用于大型语言模型推理的工具。NVIDIA强烈推荐在复赛中使用该工具。在评分过程中,使用该工具将获得一定的加分。复赛赛制与去年2022年基本保持一致,这让我们更期待选手们带来的精彩表现!

快来加入TensorRT Hackathon,挑战自我,拓展视野!与AI顶尖人才交流,共同进步!我们期待在比赛中见证你们的技术飞跃和创新思维!加油!

微信扫描二维码进入报名页面:

文章引用微信公众号"OpenCV学堂",如有侵权,请联系管理员删除!

博客评论
还没有人评论,赶紧抢个沙发~
发表评论
说明:请文明发言,共建和谐网络,您的个人信息不会被公开显示。