亚马逊云科技最近宣布,AWS Lambda 函数可以将响应有效负载以流的方式逐步传回客户端。新特性提高了 Web 和移动应用程序的性能,目前在 Node.js 14.x 及以上版本的运行时以及自定义运行时中可用。
响应流帮助开发人员将响应从他们的函数以流的方式传输给他们的用户,而不必等待整个响应完成。对于这项期待已久的特性,可以使用 Lambda 函数 URL 和 SDK 来调用其 API,但目前还无法使用 API 网关或应用程序负载均衡器(ALB)对响应有效负载进行流式处理。对于它的优势,首席开发大使 Julian Wood 是这样说的:
在传统的请求 - 响应模型中,在将响应返回给客户端之前,需要完全生成和缓存响应。客户端等待响应生成会降低 TTFB(Time To First Byte)性能。Web 应用程序对 TTFB 和页面加载性能尤其敏感。
响应流是为图像、视频、大型文档或数据库结果等大型有效负载而设计的,它需要用 streamifyResponse() 装饰器封装 Lambda 函数处理程序,如下所示:
exports.handler = awslambda.streamifyResponse(
async (event, responseStream, context) => {
responseStream.setContentType("text/plain");
responseStream.write("Hello, world!");
responseStream.end();
}
);
其中,新的 responseStream 对象提供了一个流对象,函数可以向该对象写入数据并立即发送到客户端。开发人员可以选择设置响应的 Content-Type 报头来传递关于流的额外信息。Datadog 工程团队负责人 AJ Stuyvenberg测试了这一新功能。他评论道:
这次发布可能看起来微不足道,但它解锁了几个关键的用例——对于希望利用服务器端渲染并减少第一字节时间的 Next.js 和 React 开发人员来说尤其如此。
新特性目前支持的最大响应大小为 20MB(软限制),流函数的最大带宽吞吐量限制为 16Mbps(2MB/s)。目前,响应流仅在 Node.js SDK 中原生提供,不过开发人员可以 在支持其他编程语言的自定义 Lambda 运行时中实现它。虽然有些开发人员关注的是 它的局限性,但 Ampt 首席执行官兼联合创始人 Jeremy Daly 在其新闻通讯中写道:
该特性不仅让 Lambda 函数可以将响应流逐步返回给客户端以减少 TTFB,而且还允许开发人员超过标准的 6MB 负载限制。
云咨询顾问、亚马逊云科技无服务器英雄 Yan Cui 写了一篇文章,演示了如何使用新的流式响应返回大型对象,而无需将结果存储在 S3 中。
Lambda 的响应流并不是云计算领域中第一个可用的选项,Vercel 最近就在 Node.js(Lambda)和 Edge 运行时中提供了 HTTP 响应流支持。
亚马逊云科技在无服务器模式集合中发布了 Lambda 流应用程序示例。这些应用程序支持用 AWS SAM 来构建和部署资源。流式响应增加了 Lambda 的网络传输成本,不过,除了每个请求的前 6MB 之外,亚马逊云科技免费套餐现在还包含每月 100GiB 的 HTTP 响应流。
原文链接:
https://www.infoq.com/news/2023/04/aws-lambda-response-streaming/
相关阅读:
亚马逊云科技开源 Mountpoint for Amazon S3,通过挂载点技术简化 Amazon S3 对象存储的使用 (https://www.infoq.cn/article/OzPQdde0UPv9O5Cs9xAu)
容器与无服务器,是竞争对手还是队友?(https://www.infoq.cn/article/EvMkADbFYlbaphLm8ywY)
声明:本文为 InfoQ 翻译,未经许可禁止转载。
点击底部阅读原文访问 InfoQ 官网,获取更多精彩内容!
《2023 大语言模型综合能力测评报告》出炉:以文心一言为代表的国内产品即将冲出重围
免费版“Github Copilot”,编程能力还翻倍?!谷歌硬刚微软,推出全新Colab编程平台
文章引用微信公众号"InfoQ",如有侵权,请联系管理员删除!