在数据存储和非结构化数据管理领域,过去 12 个月发生了许多变化。在当前经济动荡之际,成本上升,IT 预算压力增大,云存储战略成为关注焦点;生成式AI提出了新的数据存储和管理要求;数据迁移日益复杂,但在数据中心整合时代是必要的;IT 组织面临着巨大压力,需要在控制成本的同时提供更大的数据价值。如何应对这一切? 下面我们将从AI和非结构化数据管理入手,为 IT 组织和数据存储团队提供一些预测。
AI将丰富非结构化数据,带来更好的结果
非结构化数据数量庞大,但至今仍无法使用,原因有以下几点:搜索、分类、细分和移动到AI引擎和分析工具都很困难,而且成本高昂。随着AI工具和服务的发展,它们变得更加普惠,易于被众多企业(不仅仅是资金充裕的大型企业)消费,因此,利用这些数据来实现新的商业价值的需求也越来越大。
挑战就在这里:想要向AI发送数据的研究人员和数据科学家并没有安全发送数据的简单方法。这需要编写手动脚本,耗费数天或数周的时间。另外,AI和 ML 技术仍然过于不准确,会带来偏见和错误结果。
不过,我们预测,将会有更多解决方案提供一种工作流程,使AI能够快速找到所需的数据,丰富它并验证结果。工作流程可以包括首先使用AI工具扫描云数据湖或数据中心中的数据,为项目找到所需的数据类型,例如 2022 年的所有乳腺 X 射线图像。然后,AI通过扫描文件内容和标记文件(如“包含用于诊断随访的 X 标记”)来丰富元数据,并返回一个可以通过人工验证的数据集。非结构化数据管理具有可搜索的全局文件索引,可通过 API 连接到AI工具,以进一步识别和丰富数据,这一点非常宝贵:它为AI项目节省了时间、提高了效率和准确性。
从云优先到数据优先
在全球疫情最严重的时候,云优先战略曾风靡一时,但如今,这些计划已被重新审视。 IT 组织利用适合不同工作负载的多种供应商技术,创建了灵活的混合云和多云环境。 一些企业在使用云时发现,与在企业内部保留数据相比,他们不仅没有节省足够的成本,有时甚至花费更多。
造成这种现实的原因有很多,但将大部分或所有工作负载放在云中来节省成本的想法并没有实现。无论是本地存储还是云存储,IT 组织将根据其数据在整个生命周期中的性能、成本和安全需求,从市场上的众多存储选项中进行选择。随着需求的变化或更好技术的出现,拥有轻松移动数据的能力至关重要。
因此,能够在不锁定供应商的情况下迁移海量非结构化数据的数据管理工具将越来越有价值。
非结构化数据迁移变得更加智能和自动化
企业数据迁移历来是复杂的、需要亲力亲为的,尤其是涉及大量非结构化数据时,需要大量的专业服务。自动化和AI将改变这一现状,实现智能、高效地数据迁移,不再需要 IT 经理全程监督,能够自适应。
这些工具将知道如何即时解决问题并进行自我修复。随着知识的增长,先进的迁移规划工具将为不同的工作负载和使用案例推荐最 佳的存储层。这很及时,因为数据迁移取决于客户不断变化的环境:防火墙、网络连接和安全配置。企业客户将寻求能提供更快的迁移速度、更好的长期结果以及更少的数据丢失、更少的错误和安全风险的解决方案。
存储 IT 团队:需要 FinOps 和跨部门技能
鉴于上述所有趋势,存储 IT 团队将需要获得更多专业知识,以提高成本效益和效率,并与业务和部门需求保持一致。2024 年,FinOps 将成为存储架构师术语的一部分。随着存储越来越以软件和服务为中心,管理硬件已不再是必要条件。相反,管理供应商、合同以及为部门和用户提供安全、经济高效的数据服务将占据存储专业人员的大部分时间。
此外,企业也在逐渐摆脱单一供应商的局面。因此,存储管理员必须在不同技术之间跳来跳去,而不是专注于一个平台。这就需要在网络、安全、云架构、成本建模和数据分析方面具备更广泛的技能和知识。
因此,专门针对存储的职称将被数据职称取代,如“数据洞察工程师”或“数据管理架构师”。在成熟的基础架构团队中,负责存储的管理人员将与数据科学和AI团队更紧密地合作,采购AI就绪的基础架构,并制定并制定计划,对数据进行分类以及制定数据流到分析平台的流程。
作者 Kumar Goswami 是 Komprise 的首席执行官兼联合创始人。