模型web迁移延时太长机器学习神器Cortex能一键解决吗

据介绍,这次的Cortex v0.13支持了所有的主要机器学习框架。

滚动更新:直接将更新应用在API上,轻松将Web服务过渡到新模型,不会产生延迟;

具体而言,此次的Cortex v0.13改进了自动扩展、多框架支持、CPU/GPU支持、预测监测、最小化的声明式配置、滚动更新、日志流等功能。

如上所示,在TensorFlow的分类中,给出了鸢尾花分类、文本生成、情绪分析、图像分类等例子;PyTorch的例子包括,阅读理解、语言生成、图像分类等等。

最小化配置:部署配置仅由一个cortex.yaml文件定义。

日志流:可以Cortex中实时查看日志,从而帮助简化流程;预测监测:可检测网络量度,并追踪预测结果;

这种延迟往往导致大量的计算资源产生浪费,并且用户体验有很高的提升空间。而Cortex v0.13提供了大量新特性,提升了使用体验,能够更方便快捷地将机器学习模型预测作为网络服务部署到生产流程中。

当前的TensorFlow,PyTorch或者其他机器学习框架需要的技能与处理Docker、Kubernetes、NVIDIA驱动程序的技能并不兼容。也就是说机器学习模型从笔记本迁移到云上面可能需要花费数周的时间。

开源Github,手把手教你如何配置

为啥要将Cortex和AWS绑在一块?为啥不支持 所有的k8s集群?为啥不能通过运行Minikube在本地测试Cortex?——来自网友的灵魂三连问

雷锋网原创文章,。详情见转载须知。

Cortex作为一款为生产Web服务的工具,能够和AWS服务结合起来,重点解决jupyter notebook到生产的缺乏基础框架的问题。

雷锋网(公众号:雷锋网)截图

Spot 实例:能够享受最高的折扣;

新冠肺炎疫情之下,思想之弦绷得很紧,大家也很容易恐慌。我们当然要指出听信谣言而服药的愚蠢做法,警示更多人切勿精神紧张过度。如果说之前人们抢购双黄连等药物是心理作祟的话,那这样的过度预防就也是一种病,迫切需要通过精神抚慰治疗。

自动扩展:Cortex能够自动调整API,已处理生产环境下的工作负载,避免高延迟,减少AWS账单;

最为紧要的是,疫情防控须尽快增加“服药安全”环节,落实专门机构和人员负责相应的指导和监管。对于大规模的预防性服药,要加以严格的超前干预,预防群体性服药安全事故的发生。对于居民自行性服药问题,一方面,须加强药店购买类似药物实名制的管控,减少误服事件的发生;另一方面,要有效加强相关宣传,严格惩治类似预防药物炒作行为,指导居民不轻易服用什么预防药物。

Cortex的更新,其创始人也在Reddit 论坛上更新了通知。在Reddit帖子下面,网友也发表了评论:有人认为能够加速机器学习模型的训练,也有认为在支持功能上还有待改进。

机器学习神器?网友评论褒贬不一!

目前也在Google Cloud中,他们提供ML预测服务,但是他们都不使用容器,我认为这是一大优势。最后,你对最新版的Cortex有何评论,在文末给我们留言吧~

同时,疫情防控过程中的药物推送或发放,务必慎之又慎。对于类似预防类药物一定要严格控制,必须在医生指导下进行,坚持非必须则不必推送;在发放消毒类药物时,除了相关传递和发放过程中注意千万别误传内容外,所有消毒类药物务必要在外包装或盒瓶上注明其使用方法、属于哪一类危险品,以及误服后的紧急处理方法,以此预防被成人和未成年人误服,最大限度降低相关风险。

建议各地政府将居民安全服药作为疫情防控的重点加以有效干预。相关监管部门也应延伸和转变工作内容,疫情防控考核不妨将居民安全服药列为考核内容之一,严密跟踪监管。

值得警惕的是,由于预防新冠病毒药物的种种误导信息,对于公众也已产生了不良影响。2月25日,即有这样一则新闻:武汉一女子未感染新冠病毒,却自行购买并过量服用硫酸羟氯喹,出现精神异常、心率失常等症状,被送入ICU(重症监护室)。医生提醒,无论是硫酸羟氯喹,还是磷酸氯喹,都是处方药,服用时应谨遵医嘱。

总的来说,整个Cortex采用TensorFlow,Kubernetes和Docker等开源工具,并将它们与CloudWatch等AWS服务相结合,能够为开发人员提供了一个API来部署其模型;然后,将模型集装箱化,然后将其部署到幕后的Kubernetes上,Cortex会自动扩展工作量,如果计算量很大,可以切换到GPU。

其实,越是在当下疫情防控形势依然严峻复杂的情形下,越需要沉着冷静,不能在服药问题上制造新的恐慌。也就在同一天,我们看到一则新闻:因村干部通知有误,湖北黄冈黄梅县一村22名村民误食消毒片。至3月1日下午,已有18人治愈出院,4人虽无大碍但因年纪偏大且患有其他基础性疾病留院观察治疗。尽管这样的“误服”没有引发更为严重的后果,但疫情之下的服药安全已然被提上了重要议事日程。