开源框架Ollama,那个让你轻松在本地运行LLM的平台,现在增加了工具支持。换句话说,在Ollama的v0.3版本中,LLM可以访问各种工具,比如search API、网页浏览、代码解释器、计算器等外部功能。通过这些工具,Llama-3.1-405B模型能够更好地与Agentic AI系统结合,让系统功能更加丰富。
如果你想了解具体的操作方法,可以参考这个构建search Agent代码示例[3]。
参考文献:
[1] https://github.com/ollama/ollama
[2] https://ollama.com/
[3] https://github.com/weaviate/recipes/blob/main/integrations/llm-frameworks/ollama/Ollama-Weaviate-Agents.ipynb
好文章,需要你的鼓励
人工智能领域正在通过改进模型工作方式来释放新功能。研究人员开发了一种名为"SVDquant"的4位量化系统,可以使扩散模型运行速度提高3倍,同时提升图像质量和兼容性。这种技术通过压缩参数和激活值来大幅降低内存和处理需求,为资源受限的系统带来新的可能性。
Meta公司开发了一种机器学习模型SEAMLESSM4T,能够实现36种语言之间的近即时语音翻译。该模型采用创新方法,利用互联网音频片段避免了繁琐的数据标注。这一突破性技术有望简化多语言交流,但仍需解决噪音环境、口音等挑战,并关注技术可能带来的偏见问题。
生物制药行业正积极拥抱人工智能技术,大型企业投入巨资,小型公司谨慎布局。行业面临人才、数据和工作流程等挑战,但预计到2025年将在AI就绪度方面取得实质性进展。AI有望加速药物研发,提高效率,最终造福患者,重塑医疗保健的未来。
随着 AI 需求激增,数据中心行业面临严峻挑战。能源消耗激增威胁可持续发展目标,新项目遭遇公众反对。电力供应和分配方式亟需改革,行业或将迎来动荡的 2025 年。