服務(wù)
威固信息致力于打造全球領(lǐng)先的智能存儲與數(shù)據(jù)應(yīng)用產(chǎn)品,也提供最優(yōu)質(zhì)的服務(wù)滿足客戶各種前瞻性的需求。
系統(tǒng)集成及定制開發(fā)
基礎(chǔ)數(shù)據(jù)組織管理
數(shù)據(jù)挖掘分析平臺
數(shù)據(jù)可視化平臺
圖 上海威固大數(shù)據(jù)平臺處理框架
威固大數(shù)據(jù)預(yù)處理及清洗流程主要包括數(shù)據(jù)收集、數(shù)據(jù)預(yù)處理、數(shù)據(jù)存儲、數(shù)據(jù)處理與分析環(huán)節(jié),其中數(shù)據(jù)質(zhì)量管理貫穿于整個(gè)大數(shù)據(jù)流程,每一個(gè)數(shù)據(jù)處理環(huán)節(jié)都會對大數(shù)據(jù)質(zhì)量產(chǎn)生影響作用。針對異構(gòu)的各種歷史數(shù)據(jù)主要從數(shù)據(jù)采集和數(shù)據(jù)預(yù)處理清洗加工方面去整理現(xiàn)有的資源數(shù)據(jù),這些歷史數(shù)據(jù)主要分為結(jié)構(gòu)化數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)及實(shí)時(shí)數(shù)據(jù),結(jié)構(gòu)化數(shù)據(jù)主要指現(xiàn)有裝備業(yè)務(wù)系統(tǒng)RDBMS數(shù)據(jù)庫數(shù)據(jù),Webservice數(shù)據(jù)及各種裝備API接口數(shù)據(jù);非結(jié)構(gòu)化數(shù)據(jù)包括目前音視頻文件、圖片、各種office文檔及紙質(zhì)文檔;同時(shí)也有各種實(shí)時(shí)數(shù)據(jù)接口獲取的數(shù)據(jù),通過日志采集或kafka接口獲取。通過采集工具獲取到的數(shù)據(jù)經(jīng)過數(shù)據(jù)整合、數(shù)據(jù)關(guān)聯(lián)性處理、數(shù)據(jù)清洗和去噪及數(shù)據(jù)聚合、數(shù)據(jù)一致性檢驗(yàn)等處理后變成可用的數(shù)據(jù)存儲到對應(yīng)的各種大數(shù)據(jù)倉庫中,為數(shù)據(jù)分析、數(shù)據(jù)挖掘、裝備應(yīng)用服務(wù)提供基礎(chǔ)數(shù)據(jù)支撐。
2.云平臺系統(tǒng)集成方案
云主機(jī)管理
物理主機(jī)管理
存儲管理
網(wǎng)絡(luò)管理
容器管理
6. 應(yīng)用管理
威固云平臺包括云計(jì)算管理平臺和容器化管理平臺,云計(jì)算管理平臺提供虛擬機(jī)生命周期管理(包括虛擬機(jī)創(chuàng)建、啟動、停止、重啟、暫停、恢復(fù)、銷毀、遠(yuǎn)程連接、克隆、遷移、制作成鏡像、快照、擴(kuò)容)、集群管理、計(jì)算資源、存儲資源、網(wǎng)絡(luò)資源管理、監(jiān)控管理、彈性伸縮、高可用管理、云盤、鏡像、平臺管理等功能。云計(jì)算平臺具有動態(tài)伸縮、可大規(guī)模部署的特性,支持多種虛擬化平臺及混合部署模式,提供強(qiáng)大的資源池管理和虛擬化功能。容器云平臺提供微服務(wù)治理框架,包括輕量化docker集群管理、發(fā)布管理、應(yīng)用編排、資源管理等功能,為開發(fā)者和企業(yè)提供了一個(gè)快速構(gòu)建、集成、部署、運(yùn)行容器化應(yīng)用的平臺,從而提高應(yīng)用開發(fā)的迭代效率,簡化運(yùn)維環(huán)節(jié),降低運(yùn)維成本。
3.智能存儲系統(tǒng)集成方案
AI融合存儲架構(gòu)
冷熱數(shù)據(jù)分離
容器存儲插件
機(jī)器學(xué)習(xí)智能存儲
威固智能存儲平臺融合分布式存儲產(chǎn)品及基于容器的智能存儲技術(shù)。以容器資源管理和智能分布式存儲管理為基礎(chǔ),通過對TensorFlow、Pytorch等容器的編排,可以滿足圖形識別、圖片智能檢索等典型人工智能應(yīng)用場景。分布式存儲與容器融合架構(gòu)分為5層,分別為硬件層、資源管理層、AI計(jì)算引擎層、接口層及應(yīng)用服務(wù)層。
硬件層:包括計(jì)算設(shè)施、存儲設(shè)施和網(wǎng)絡(luò)設(shè)施。對于自主可控平臺,計(jì)算設(shè)施指的是主機(jī)CPU、FPGA存儲加速卡。
資源管理層包括容器云平臺、分布式存儲管理平臺和可能存在的第三方接入平臺。容器云平臺提供AI智能引擎所依賴的容器云環(huán)境,同時(shí)容器云采用卷插件方式為應(yīng)用提供統(tǒng)一存儲資源池,容器云功能包括AI存儲鏡像的應(yīng)用編排、容器管理、存儲管理、資源調(diào)度等管理功能,AI引擎通過容器云編排發(fā)布到服務(wù)器上,同時(shí)底層對接第三方存儲接口,實(shí)現(xiàn)對AI引擎的容器管理、應(yīng)用管理、鏡像編排、集群管理、存儲管理和服務(wù)管理。分布式存儲管理平臺提供塊、對象、文件的存儲管理外還提供對底層數(shù)據(jù)的預(yù)處理功能,包括AI采集數(shù)據(jù)的標(biāo)簽管理、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理及對圖像預(yù)處理等功能,同時(shí)提供非結(jié)構(gòu)化數(shù)據(jù)的持久化管理、數(shù)據(jù)冷熱分層管理、存儲的QoS管理等功能,滿足AI場景下數(shù)據(jù)的智能存儲和預(yù)處理功能;資源管理層還包括第三方平臺的接口,為第三方平臺提供引入接口,可以兼容阿里云、華為云、百度智能、Kubernetes功能接口;
AI計(jì)算引擎層包括AI引擎和圖形處理引擎,常用的人工智能引擎如TensorFlow、Pytorch、Caffe等算法引擎,這些引擎目前均已在自主可控平臺上進(jìn)行了適配,且可通過Kuberneters管理以鏡像容器的方式運(yùn)行,方便與存儲對接及實(shí)現(xiàn)微服務(wù)發(fā)布管理。
接口層提供API、Restful、Python、SDK等接口,方便應(yīng)用開發(fā)及服務(wù)提供AI平臺的資源接口。
應(yīng)用服務(wù)層是AI容器平臺應(yīng)用發(fā)布成對外服務(wù)的窗口,包括語音識別、人臉識別、無人駕駛、詞法分析、語音合成、文章分類、圖像識別等AI應(yīng)用,這些應(yīng)用以服務(wù)的方式滿足用戶使用AI資源的需求。
