- 耗时6年生成代码1.6亿行,农行大数据平台打造攻略!
耗时6年,135个项目,8000页需求,累计投入11000多人月,生成的代码行1.6亿行,支持了8大业务领域,33条业务线,120多个应用场景,这就是中国农业银行大数据平台。
覃里 · 2018-11-20 14:13 - Apache Spark的Lambda架构示例应用
目前,市场上很多玩家都已经成功构建了MapReduce工作流程,每天可以处理TB级的历史数据,但是在MapReduce上跑数据分析真的太慢了。所以我们给大家介绍利用批处理和流处理方法的Lambda架构,本文中将利用Apache Spark(Core,SQL,Streaming),Apache Parquet,Twitter Stream等实时流数据快速访问历史数据。
田晓旭 · 2016-11-12 00:00 - 美团点评数据仓库开发模式演进
近几年,美团团购业务在飞速发展,已经向外卖、电影等多个业务领域实现了横向拓展,之前由单一的数据组统一构建数据仓库的开发模式已经不能满足业务的快速发展需求了,所以我们数据仓库的开发模式由数据组主导转变到了业务方自治。在这个转变过程中我们遇到了诸多问题,比如数据资源隔离、权限控制、数据治理、开发平台等等,我想分享一下我们是如何解决这些问题的,为后来的公司提供一些参考经验。
田晓旭 · 2016-08-11 00:00 - 有"屏"有据,阿里双11大屏是怎样炼成的
大家好,我是来自阿里云数据可视化DataV小组的染熙,今天主要是和大家分享一下阿里云数据可视化展示平台的搭建过程,我会尽量将整个过程本真的还原出来,帮助准备自己搭建平台的小伙伴们扫除一些障碍。我们这个平台是用来搭建大屏的。什么是大屏?大屏是我们集团内部对于数据可视化的数据大屏的一个简称,目前我们集团有三种大屏,第一种是触摸式大屏,它的最大特点是能够展示全量的数据,一般来说这种大屏都会带有互动。
田晓旭 · 2016-08-08 00:00 - 知微探秘:可视化如何解读北京交通状况
大家好,我叫陆旻,来自北京大学可视化与可视分析实验室,今天我跟大家交流的主题是城市移动数据的知微探秘。可视化的核心思想就是把枯燥的数据变成图像呈现在用户面前,让用户通过图像去进行视觉理解,进而从数据中发现价值。基于可视化的数据分析叫可视分析,可视分析的核心思想是用户通过视觉感知图像,同时为用户提供一些交互手段来操纵图像背后的模型。
田晓旭 · 2016-07-27 08:25 - 新核心业务系统数据架构规划与数据治理
农银人寿现在使用的是中科软保险核心业务系统,这个系统比较陈旧,扩展性和稳定性都比较差,已经不能满足业务快速变化发展的需要,也不能满足快速推出新产品的需要。在这个背景下,公司于13年立项,15年开始全面推动新核心业务系统的建设。农银人寿的数据架构规划和数据治理标准化的实践就是在这个背景下展开的。
田晓旭 · 2016-07-15 08:26 - 干货:Spark Streaming工业应用实例
Spark Streaming 是Spark API进行数据流计算的核心,下面就为大家分享在HBase上如何使用Apache Spark Streaming。
田晓旭 · 2016-06-23 05:16 - 云智慧解决摄影应用Camera360的API隐忧
移动互联网兴起,API的使用让APP开发更便捷,但后端接口性能往往是个大隐患,云智慧监控宝的API监控为您把关,让您在“API经济”中如鱼得水。
景保玉 · 2015-11-04 10:48 - Informatica保障江苏电信规范化ETL开发
为适应电信行业迅速变化市场竞争环境,电信企业往往建立了许多面向不同对象的数据业务系统系统来支撑决策,但这些系统相对独立,数据分散、缺乏一致性,反而制约了经营决策分析的应用支撑。为解决上述问题,江苏
景保玉 · 2015-10-23 10:30 - 微软助力奥的斯电梯进入移动办公模式
Windows Phone给奥的斯带来的最大的优势就是移动办公,并且,随时随地都在为企业带来利益。奥的斯信息部长高相东还表示:今后还会在云计算等方面与微软有更进一步的合作,开拓更多的合作领域,希望微软的移动、云解决方案为奥的斯带来更多的商业价值。
崔月 · 2015-06-05 00:00 - Informatica助紫金农商行深挖数据价值
使用Informatica产品完成数据的加载、清洗、转换工作显得尤为简单,图形化、流程化设计使维护人员能够快速、顺畅的操作,即使数据源结构发生变化,也不会像以前必须修改大量的程序代码,只需要在PowerCenter中配置一下即可。
景保玉 · 2015-01-29 15:50 - 如何保障千万级用户高并发的网站性能?
截止2014年12月31日,小说阅读网上线已有10年,总注册用户数为5000万,驻站作者超过30万,用户覆盖了国内所有的省市。作为国内最早的在线阅读网站,小说阅读网以其丰富的内容、良好的用户体验受到广大文学小说爱好者和国内网络作者的推崇。
覃里 · 2015-01-19 14:39 - 数据分析案例:智能化疫情预测预警系统
疫情预测预警是有效应对传染病重要的手段,传染病预测预警是通过建立统计分析和数学模型的建立,探讨传染病发生、发展和流行的规律,一方面可根据预测的数据,有的放矢地提出和采取预防控制措施,并通过跟踪印证来评价预防措施的效果,能使预防控制工作更具针对性、预见性和主动性,从而达到防止暴发或流行的目的。
王玉圆 · 2014-08-14 23:02 - SQL Server:高效数据流保障顺畅交通流
提到交通运输效率,相信很多人的第一反应是更宽的道路、更快的车速,很难想到IT系统与技术能对交通运输效率的提升起到什么作用。其实,支撑顺畅交通流的除了宽阔的马路,更重要的是看不见的高效数据流提供的背后支撑。
王玉圆 · 2013-10-24 10:06 - SQL Server:大企业如何玩转大数据?
“得大数据者得天下。” 推崇大数据时代的变革者们对此坚信不疑。在大数据时代,谁能有效地管理和控制数据,谁就有可能成为世界霸主。中国石油化工集团公司信息系统管理部副主任齐学忠也认同这个观点。不过,有效的管理和控制数据并非一件容易的事情,齐学忠就经常为中石化的合同管理而头疼。
王玉圆 · 2013-10-24 09:59 - SQL Server:挖掘大数据中的商业价值
“我要怒放的生命!”凡客诚品新一季的户外广告再次袭来。好声音人气学员助阵,加上标配的“凡客体”广告语,凡客诚品新一季的广告几乎一夜之间占据了北京的核心商业地段。人们感叹善于市场营销的凡客诚品,再一次将传播诉求直击目标受众心理。对目标受众的精准传播诉求,得益于凡客诚品对目标受众心理的准确分析,而这一切还得归功于凡客诚品在IT架构上的持续投资,搭建灵活、智能的数据平台解决方案。
王玉圆 · 2013-10-24 09:57 - IBM PureData助海通证券新一代数据平台
近日,IBM公司宣布与海通国际证券集团有限公司(以下简称:海通证券)展开战略合作,以领先的PureData for Analytics专家集成系统帮助海通证券建立新一代数据平台,通过更为高效的数据仓库解决方案和数据分析能力,帮助海通证券整合近5年来所有的交易数据,从而实现更加高效的实现分析、风险管控,并驱动决策。
王玉圆 · 2013-10-21 10:54 - Hadoop应用案例分析:在Facebook的应用
Facebook作为全球知名的社交网站,拥有超过3亿的活跃用户,其中约有3千万用户至少每天更新一次自己的状态;用户每月总共上传10亿余张照片、1千万个视频;以及每周共享10亿条内容,包括日志、链接、新闻、微博等。因此Facebook需要存储和处理的数据量是非常巨大的,每天新增加4TB压缩后的数据,扫描135TB大小的数据,在集群上执行Hive任务超过7500次,每小时需要进行8万次计算……
王玉圆 · 2013-09-29 00:05 - Hadoop应用案例分析:在百度中的应用
百度作为全球最大的中文搜索引擎公司,提供基于搜索引擎的各种产品,包括以网络搜索为主的功能性搜索;以贴吧为主的社区搜索;针对区域、行业的垂直搜索、MP3音乐搜索,以及百科等,几乎覆盖了中文网络世界中所有的搜索需求。
王玉圆 · 2013-09-13 00:05