生成式人工智能(GenAI)的推进热潮正遭遇瓶颈,据NTT Data亚太区负责人表示,许多概念验证(POC)项目由于基础设施不足和缺乏完善的治理而无法规模化部署。
NTT Data亚太区首席执行官John Lombard在接受Computer Weekly采访时表示,组织要想真正利用GenAI的力量,首先必须解决基础技术债务问题并建立清晰的治理框架。
"当组织开始关注GenAI时,出现了一股POC热潮,"Lombard说道,许多POC项目未能跃升为全面部署,因为组织发现他们必须遵循正确的流程来部署技术,并审视其底层基础设施。
Lombard引用了NTT Data最近的研究,发现90%的组织目前正在评估其现有基础设施,包括网络、存储和安全等,这些都必须在企业能够自信地大规模部署AI应用之前进行现代化改造。
通过整合Dimension Data和其他NTT公司形成的NTT Data,正通过从连接到高级AI应用的产品组合来应对这一挑战。该公司目前在亚太地区拥有15,000名专职员工,所有员工都完成了基础AI认证,重点关注治理和伦理。
从生成式AI到AI智能体
Lombard注意到与客户的对话正从生成式AI转向智能体AI,即自主智能体可以在无需人工干预的情况下执行复杂的多步骤任务。为帮助客户实现这一跨越,NTT Data开发了能够根据用户指令自主执行任务的"智能AI智能体"。
"目前市场上有数百万个RPA(机器人流程自动化)机器人,我们也开发了插件,允许组织将RPA机器人转换为智能体AI机器人,"Lombard表示,这将帮助组织避免因旧技术而产生技术债务。
他还分享了组织已经部署AI智能体的案例,这些应用超越了简单的基于规则的自动化。
在医疗保健领域,一个组织正在使用自主智能体对保险索赔和申诉进行分类和优先级排序,确保最具影响力的案例得到优先处理。"他们的近期路线图主要关注早期干预、医疗合规、付款方验证和防欺诈的专业化,"Lombard说。
在汽车行业,另一个客户正在使用智能体分析监管警告信函和引文。"他们还在开发专业自动化和流程来分析车辆缺陷的根本原因,"他补充道,指出这有可能降低车辆召回的高昂成本。
数据质量决定结果质量
尽管AI潜力巨大,Lombard反复强调将治理置于技术之前的重要性。他警告说,如果没有适当的防护措施,AI系统可能会延续和放大现有偏见。
"这是个老话题,你知道的,垃圾进垃圾出,"他说。"组织用于训练的数据不存在偏见是非常重要的。你不希望出现算法使用已经有缺陷的数据来做决策的情况,比如贷款审批。"
NTT Data的方法是从专注于伦理、监管和合规考虑的咨询服务开始接触客户。"我们建议客户建立非常强大和完善的治理框架,"Lombard说。"在投入技术之前先考虑这些问题确实很重要。"
支撑NTT Data AI努力的是其在该地区核心基础设施方面的投资。该公司是亚太地区第三大数据中心提供商,正在印度、泰国、印度尼西亚和马来西亚扩大容量以支持高需求的AI工作负载。
Lombard还提到了最近投入使用的Mist海底电缆,该电缆连接马来西亚、印度、新加坡和泰国与世界其他地区。这条长达8,100公里的电缆承载超过200太比特每秒的带宽,是"这个地区向更广泛人群开放AI使用的重要连接"。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
伊尔德兹技术大学团队通过词典手术和离线蒸馏,以不足20美元成本打造出专为土耳其语优化的200M参数句子嵌入模型,在语义相似度任务上超越了参数量更大的原版教师模型。