圖片展示
圖片展示

行業(yè)新聞


人工智能正在推動(dòng)超級(jí)監(jiān)控

點(diǎn)擊量:10986發(fā)表時(shí)間:2019-12-03 15:24:36

  我們通常會(huì)認(rèn)為監(jiān)控?cái)z像頭是數(shù)字化的眼睛,監(jiān)視著我們,或者是為我們進(jìn)行監(jiān)視,具體是哪種情況取決于你的立場(chǎng)。但實(shí)際上,它們更像是舷窗:只有當(dāng)有人通過(guò)它們看時(shí)才有用。有時(shí)候這意味著會(huì)有人監(jiān)看監(jiān)控視頻,通常是同時(shí)監(jiān)看多個(gè)視頻窗口。然而,大多數(shù)監(jiān)控?cái)z像頭都是被動(dòng)的。它們?cè)谀抢镒鳛橐环N威懾,或者在出現(xiàn)問(wèn)題時(shí)提供證據(jù)。

  但是,這種情況正在發(fā)生變化視頻監(jiān)控,而且變化的速度非??臁H斯ぶ悄芙o了監(jiān)控?cái)z像頭提供了能夠匹配它們眼睛的大腦,讓它們能夠分析實(shí)時(shí)視頻,而且不需要人類(lèi)的干預(yù)。對(duì)于公共安全來(lái)說(shuō),這可能是一個(gè)好消息,幫助警察和應(yīng)急救助人員能夠更容易地發(fā)現(xiàn)犯罪和事故,并且有一系列的科學(xué)和工業(yè)上的應(yīng)用。但是這也對(duì)隱私的未來(lái)引發(fā)了嚴(yán)重的問(wèn)題,并給社會(huì)正義帶來(lái)了全新的風(fēng)險(xiǎn)。

  如果政府可以使用閉路電視視頻監(jiān)控跟蹤大量的人,會(huì)發(fā)生什么情況?如果警察只要將你的臉部照片上傳到數(shù)據(jù)庫(kù),就可以對(duì)你進(jìn)行全城數(shù)字化跟蹤,又會(huì)怎么樣?或者你所在當(dāng)?shù)氐纳虉?chǎng)的攝像頭上運(yùn)行的算法存在偏見(jiàn),僅僅因?yàn)椴幌矚g某群青少年的樣子,就發(fā)出警報(bào)召喚警察,又會(huì)怎么樣?

  雖然這些情景的出現(xiàn)尚需時(shí)日,但是我們已經(jīng)看到將監(jiān)控和人工智能結(jié)合的初步成果了。IC Realtime公司就是一個(gè)例子。該公司去年12月份推出的旗艦產(chǎn)品被谷歌用于閉路電視視頻監(jiān)控。這是一個(gè)應(yīng)用程序及網(wǎng)絡(luò)平臺(tái),名為Ella,它使用人工智能對(duì)視頻流中的內(nèi)容進(jìn)行分析,并使之可供即時(shí)搜索。Ella可以識(shí)別成千上萬(wàn)的自然語(yǔ)言查詢(xún),讓用戶能夠搜索鏡頭中的內(nèi)容,找到包含了特定動(dòng)物、穿著特定顏色衣物的人,甚至是包含了某款特定汽車(chē)品牌或型號(hào)的剪輯圖像。

  在一次網(wǎng)絡(luò)演示中,IC Realtime公司的首席執(zhí)行官M(fèi)att Sailor向《The Verge》展示了Ella的一個(gè)版本,該版本連接了監(jiān)控一個(gè)工業(yè)園區(qū)的大約40臺(tái)監(jiān)控?cái)z像頭。他輸入了各種搜索內(nèi)容--"一個(gè)穿紅衣服的男人"、"UPS貨車(chē)"、"警車(chē)"--所有這些都在幾秒鐘內(nèi)提取出了相關(guān)的鏡頭。然后,他縮小和時(shí)間范圍和地點(diǎn)范圍,并指出用戶可以如何用拇指向上和向下滑動(dòng)改善結(jié)果--就像Netflix一樣。

  人工智能監(jiān)控從可搜索視頻開(kāi)始

  Sailor表示:"假如有搶劫,你并不真的知道發(fā)生了什么"。他表示,"但之后有一輛吉普牧馬人(Jeep Wrangler)向東飛馳而去。所以我們來(lái)搜索'吉普

  牧馬人(Jeep Wrangler)',然后就找到了。"在屏幕上,開(kāi)始出現(xiàn)視頻剪輯,顯示不同的吉普牧馬人(Jeep Wrangler)從鏡頭前滑過(guò)。這將是人工智能和閉路電視視頻監(jiān)控相結(jié)合的第一大優(yōu)勢(shì),Sailor解釋說(shuō):讓你很容易找到你要找的東西。他表示:"如果沒(méi)有這種技術(shù),你所能知道的不會(huì)比你的攝像頭更多,而且你必須從數(shù)個(gè)小時(shí)、數(shù)個(gè)小時(shí)又?jǐn)?shù)個(gè)小時(shí)的視頻中篩選內(nèi)容。"

  Ella運(yùn)行在谷歌云(Google Cloud)上,可以從幾乎任何閉路電視視頻監(jiān)控系統(tǒng)中搜索鏡頭。Sailor表示:"它在從單攝像頭系統(tǒng)--例如保姆攝像頭或者狗攝像頭--一直到擁有成千上萬(wàn)攝像頭的企業(yè)級(jí)系統(tǒng)中,都能工作得很好。"用戶每月支付使用費(fèi)用,起價(jià)為每個(gè)月7美元左右,總價(jià)會(huì)根據(jù)攝像頭的數(shù)量增長(zhǎng)。

  IC Realtime公司希望能夠針對(duì)各種規(guī)模的企業(yè),但該公司也認(rèn)為其技術(shù)也能夠吸引個(gè)人消費(fèi)者。這些客戶已經(jīng)通過(guò)"智能"家庭安防攝像頭市場(chǎng)的急速發(fā)展得到了很好的服務(wù),這些攝像頭是由亞馬遜、羅技、Netgear以及谷歌旗下的Nest之類(lèi)的公司制造的。但是Sailor表示說(shuō)這種技術(shù)和IC Realtime公司的技術(shù)相比就太簡(jiǎn)陋了。這些攝像頭連接到家庭Wi-Fi上,并通過(guò)應(yīng)用程序提供實(shí)時(shí)視頻流,當(dāng)它們發(fā)現(xiàn)有東西在移動(dòng)的時(shí)候,會(huì)自動(dòng)地將視頻記錄下來(lái)。但是,Sailor表示,它們無(wú)法區(qū)分闖入者和鳥(niǎo)類(lèi)之間的差異,導(dǎo)致出現(xiàn)了很多誤報(bào)。他表示:"它們是非?;A(chǔ)的技術(shù),已經(jīng)存在了很多年了。"他表示:"這里沒(méi)有人工智能,也沒(méi)有深度學(xué)習(xí)。"

  這種情況不會(huì)持續(xù)很久了。雖然IC Realtime公司提供的基于云的分析功能可以升級(jí)現(xiàn)有的、傻瓜式的攝像頭,其他一些公司則直接在他們的硬件中加入了人工智能。Boulder AI就是一家這樣的創(chuàng)業(yè)企業(yè),該公司用自己的獨(dú)立人工智能攝像頭推銷(xiāo)"視覺(jué)即服務(wù)"。將人工智能集成到設(shè)備中的一大優(yōu)勢(shì)是它們不需要互聯(lián)網(wǎng)連接就能工作。Boulder公司廣泛地面向各行各業(yè)進(jìn)行銷(xiāo)售,為每家客戶量身打造機(jī)器視覺(jué)系統(tǒng)。

  該公司的創(chuàng)始人Darren Odom對(duì)《The Verge》表示:"應(yīng)用程序真的是非常全面。"他表示:"我們的平臺(tái)銷(xiāo)售給了銀行、能源公司。我們甚至有一個(gè)應(yīng)用程序可以觀察比薩餅,確定它們的大小和形狀是否正確。"

  "我們現(xiàn)在能夠100%地識(shí)別愛(ài)達(dá)荷州的鱒魚(yú)。"

  Odom舉了一個(gè)在愛(ài)達(dá)荷州建造水壩的客戶的例子。為了符合環(huán)保法規(guī),他們正在監(jiān)測(cè)能夠越過(guò)這個(gè)基礎(chǔ)設(shè)施頂部的魚(yú)類(lèi)的數(shù)量。Odom表示:"他們以前安排了一個(gè)人坐在窗口看著魚(yú)梯,數(shù)著有多少鱒魚(yú)游過(guò)。"(顧名思義,魚(yú)梯指的就是一條階梯式的水槽,魚(yú)類(lèi)可以通過(guò)這條水道奮力上游。)"然后他們轉(zhuǎn)移到了視頻技術(shù),有人(遠(yuǎn)程)進(jìn)行監(jiān)控。"最后,他們聯(lián)系了Boulder公司,該公司為他們搭建了一個(gè)定制化的閉路電視監(jiān)控系統(tǒng)以確定通過(guò)魚(yú)梯上游的魚(yú)的類(lèi)別。Odom自豪地表示:"我們真的使用計(jì)算機(jī)視覺(jué)進(jìn)行了魚(yú)類(lèi)物種識(shí)別。" Odom表示:"我們現(xiàn)在能夠100%地識(shí)別愛(ài)達(dá)荷州的鱒魚(yú)。" 如果說(shuō)IC Realtime代表了這個(gè)市場(chǎng)的通用一端,那么Boulder公司就是展示了精品承包商的能力。不過(guò),在這兩種情況之下,這些公司目前所能夠提供的還僅僅是冰山一角。就像機(jī)器學(xué)習(xí)在物體識(shí)別的能力方面取得迅速的進(jìn)步一樣,它分析場(chǎng)景、活動(dòng)和動(dòng)作的能力也有望迅速提高。一切都已經(jīng)就位,包括基礎(chǔ)研究、計(jì)算能力和訓(xùn)練數(shù)據(jù)集--這是創(chuàng)建有能力的人工智能的關(guān)鍵組成部分。視頻分析的兩個(gè)最大的數(shù)據(jù)集來(lái)自YouTube和Facebook,這兩家公司都曾經(jīng)表示希望人工智能能夠幫助他們節(jié)制平臺(tái)上的內(nèi)容(不過(guò)兩家公司也都承認(rèn)還沒(méi)有做好準(zhǔn)備)。例如,YouTube的數(shù)據(jù)集包含超過(guò)45萬(wàn)小時(shí)帶標(biāo)簽的視頻,希望能夠刺激"視頻理解的創(chuàng)新和進(jìn)步"。參與構(gòu)建此類(lèi)數(shù)據(jù)集的組織的廣度讓人對(duì)該領(lǐng)域的重要性有了一些了解。谷歌、麻省理工學(xué)院(MIT)、IBM和DeepMind都參與進(jìn)來(lái),開(kāi)啟了自己的類(lèi)似項(xiàng)目。

  IC Realtime公司已經(jīng)在開(kāi)發(fā)面部識(shí)別等高級(jí)工具了。之后,它希望能夠分析屏幕上正在發(fā)生的事情。Sailor表示,他已經(jīng)和教育行業(yè)潛在的客戶進(jìn)行過(guò)交談,對(duì)方希望當(dāng)學(xué)生在學(xué)校遇到麻煩的時(shí)候,監(jiān)控能夠識(shí)別出來(lái)。他表示:"例如,他們對(duì)打架的迅速通知感興趣。"系統(tǒng)需要做的一切就是注意聚集在一起的學(xué)生,然后提醒某個(gè)人,這樣他就可以檢查視頻內(nèi)容,看看發(fā)生了什么事情或者親自去調(diào)查。

  Boulder公司也正在探索這種高級(jí)分析。該公司正在開(kāi)發(fā)的一個(gè)原型系統(tǒng)的目標(biāo)是分析在銀行里的人的行為。Odom表示:"我們專(zhuān)門(mén)尋找壞人,并且探查一個(gè)正常人的行為和越界的人的行為之間的區(qū)別。" 要想做到這一點(diǎn),他們正在使用舊的安全攝像頭拍攝的視頻來(lái)訓(xùn)練他們的系統(tǒng),以發(fā)現(xiàn)異常行為。但是這種視頻有很多的質(zhì)量都非常低,所以他們也會(huì)找一些演員來(lái)拍攝自己的訓(xùn)練視頻片段。Odom沒(méi)有詳細(xì)說(shuō)明細(xì)節(jié),但表示該系統(tǒng)將尋找特定的面部表情和行為。他表示:"我們的演員們會(huì)做一些類(lèi)似蹲伏、推搡以及回頭一撇之類(lèi)的動(dòng)作。"

  對(duì)于監(jiān)控和人工智能方面的專(zhuān)家來(lái)說(shuō),這些功能的引入充滿了技術(shù)和道德方面的潛在困難。而且,和人工智能經(jīng)常遇到的情況一樣,這兩個(gè)類(lèi)別的困難是彼此交織在一起的。機(jī)器不能像人類(lèi)一樣理解這個(gè)世界,這是一個(gè)技術(shù)問(wèn)題,但是當(dāng)我們假設(shè)它們能夠做到這一點(diǎn),并且讓它們?yōu)槲覀冏鰶Q定時(shí),這就變成了一個(gè)道德問(wèn)題。

  卡內(nèi)基.梅隆大學(xué)的教授Alex Hauptmann專(zhuān)門(mén)從事這種計(jì)算機(jī)分析,他表示,盡管人工智能近年來(lái)已經(jīng)在這一領(lǐng)域取得了巨大的進(jìn)步,但是在讓計(jì)算機(jī)理解視頻方面仍然存在著非常根本性的問(wèn)題。其中最大的一個(gè)就是攝像頭的問(wèn)題,這個(gè)問(wèn)題我們已經(jīng)不再會(huì)經(jīng)常想到了:分辨率。

  最大的障礙非常常見(jiàn):低分辨率的視頻

  舉個(gè)例子來(lái)說(shuō),一個(gè)神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練,可以分析視頻中的人類(lèi)行為。這些工作是通過(guò)將人體細(xì)分為多個(gè)部分--手臂、腿、肩膀、頭部等--然后觀察這些小的部分在視頻中從一幀到另一幀的變化來(lái)進(jìn)行的。這樣,人工智能可以告訴你是否有人在跑步,或者是在梳頭發(fā)。Hauptmann對(duì)《The Verge》表示:"但是這取決于你所擁有的視頻的分辨率。" Hauptmann表示:"如果我用一個(gè)攝像頭對(duì)準(zhǔn)停車(chē)場(chǎng)的盡頭,如果我能分辨出是否有人打開(kāi)了車(chē)門(mén),就算是非常幸運(yùn)的了。如果你就站在(攝像頭)前面彈吉他,它就可以跟蹤你每一根手指的動(dòng)作。"

  對(duì)于閉路電視監(jiān)控系統(tǒng)來(lái)說(shuō),這是一個(gè)大問(wèn)題,攝像頭往往會(huì)有顆粒感,而角度也常常很怪異。Hauptmann舉了一個(gè)便利店攝像頭的例子,攝像頭的目的是監(jiān)控收銀機(jī),但是它也監(jiān)視著面向街道的窗子。如果外面發(fā)生了搶劫,攝像頭的鏡頭有一部分被擋住了,那么人工智能可能就會(huì)卡住。他表示:"但是我們作為人類(lèi),可以想象正在發(fā)生的事情,并且把它們拼湊在一起??墒请娔X就做不到這一點(diǎn)。"

  同樣,雖然人工智能很好地識(shí)別視頻中的相關(guān)事件(例如,某人正在刷牙、看手機(jī)或者踢足球),但仍不能提取重要的因果關(guān)系。以分析人類(lèi)行為的神經(jīng)網(wǎng)絡(luò)為例。它可能會(huì)看到鏡頭并說(shuō)"這個(gè)人正在跑步",但它不能告訴你他們之所以在跑步,是因?yàn)樗麄兛煲s不上公共汽車(chē)了,還是因?yàn)樗麄兺盗四橙说氖謾C(jī)。

  這些關(guān)于準(zhǔn)確度的問(wèn)題應(yīng)該讓我們認(rèn)真思考一些人工智能創(chuàng)業(yè)企業(yè)的宣言。我們現(xiàn)在還遠(yuǎn)未接近這樣一個(gè)點(diǎn):電腦通過(guò)觀看視頻能夠獲得和人類(lèi)一樣的見(jiàn)解。(研究人員可能會(huì)告訴你,要做到這一點(diǎn)可是太困難了,因?yàn)樗旧鲜?quot;解決"智力問(wèn)題的同義詞。)但是事情的發(fā)展速度非???。

  Hauptmann表示使用車(chē)牌跟蹤功能跟蹤車(chē)輛是"一個(gè)已經(jīng)得到解決的實(shí)際問(wèn)題",在受控設(shè)置中的面部識(shí)別也是一樣的。(使用低質(zhì)量的閉路電視監(jiān)控視頻進(jìn)行面部識(shí)別就完全是另一回事了。)對(duì)汽車(chē)和衣物等物品的識(shí)別也非常可靠,在多臺(tái)攝像機(jī)之間自動(dòng)跟蹤一個(gè)人也是可以實(shí)現(xiàn),但前提是條件是正確的。Hauptmann表示:"在一個(gè)非擁擠的場(chǎng)景中跟蹤一個(gè)人的效果可能非常好,但是在擁擠的場(chǎng)景中,還是算了吧。"他表示,如果這個(gè)人穿著的是不起眼的服裝,要做到這一點(diǎn)就特別難。

  一些人工智能監(jiān)控任務(wù)已經(jīng)解決了;另外一些還需要繼續(xù)努力

  但是,即使是這些非?;镜墓ぞ咭部梢援a(chǎn)生非常強(qiáng)大的效果。比如在莫斯科,一個(gè)類(lèi)似的基礎(chǔ)設(shè)施正在組裝,將面部識(shí)別軟件插入到一個(gè)集中式系統(tǒng)中,該系統(tǒng)擁有超過(guò)10萬(wàn)臺(tái)高分辨率攝像頭,覆蓋了這個(gè)城市90%以上的公寓入口。

  在這種情況下,可能會(huì)有一個(gè)良性循環(huán),隨著軟件越來(lái)越好,系統(tǒng)會(huì)收集更多的數(shù)據(jù),從而幫助軟件變得更好。Hauptmann表示:"我認(rèn)為這一切都會(huì)有所改善。"他表示:"這種情況正在出現(xiàn)。"

  如果這些系統(tǒng)已經(jīng)在工作了,那么我們就已經(jīng)有了像算法偏差這樣的問(wèn)題。這可不是一個(gè)假設(shè)的挑戰(zhàn)。研究表明,機(jī)器學(xué)習(xí)系統(tǒng)吸收了為它們編寫(xiě)程序的社會(huì)的種族歧視和性別歧視--從總是會(huì)將女性放置在廚房的圖像識(shí)別軟件到總是說(shuō)黑人更容易再次犯罪的刑事司法系統(tǒng),比比皆是。如果我們使用舊的視頻剪輯來(lái)訓(xùn)練人工智能監(jiān)控系統(tǒng),例如采集自閉路電視視頻監(jiān)控或者警察佩戴的攝像頭的視頻,那么存在于社會(huì)中的偏見(jiàn)就很可能會(huì)延續(xù)下去。

  Meredith Whittaker是紐約大學(xué)(NYU)關(guān)注道德的"AI Now"研究所的聯(lián)席主任,她表示,這個(gè)過(guò)程已經(jīng)在執(zhí)法過(guò)程出現(xiàn)了,并將擴(kuò)展到私有部門(mén)。Whittaker舉出了Axon(以前被稱(chēng)為T(mén)aser)的例子,該公司收購(gòu)了幾家人工智能公司,以幫助其將視頻分析功能集成到產(chǎn)品中。Whittaker表示:"他們得到的數(shù)據(jù)來(lái)自警察佩戴的攝像頭,這些數(shù)據(jù)告訴了我們很多關(guān)于單個(gè)警務(wù)人員會(huì)關(guān)注誰(shuí)的情況,但是并沒(méi)有給我們一個(gè)完整的描述。 "她表示:"這是一個(gè)真正的危險(xiǎn),我們正在將帶有偏見(jiàn)的犯罪和罪犯的圖片普遍化。"

  ACLU高級(jí)政策分析師Jay Stanley表示,即使我們能夠解決這些自動(dòng)化系統(tǒng)中的偏見(jiàn),也不能使它們變得良性。他說(shuō),將閉路電視視頻監(jiān)控?cái)z像頭從被動(dòng)的觀察者轉(zhuǎn)變?yōu)橹鲃?dòng)的觀察者可能會(huì)對(duì)公民社會(huì)產(chǎn)生巨大的不利影響。

  "我們希望人們不僅僅擁有自由,還要感受到自由。"

  Stanley表示:"我們希望人們不僅僅擁有自由,還要感受到自由。這意味著他們不必?fù)?dān)心未知的、看不見(jiàn)的觀眾會(huì)如何解釋或曲解他們的每一個(gè)動(dòng)作和話語(yǔ)。" Stanley表示:"要擔(dān)心的是人們會(huì)不斷地自我監(jiān)控,擔(dān)心他們所做的一切都會(huì)被曲解,并給他們的生活帶來(lái)負(fù)面的后果。"

  Stanley還表示,不準(zhǔn)確的人工智能監(jiān)控發(fā)出的錯(cuò)誤警報(bào)也可能導(dǎo)致執(zhí)法部門(mén)和公眾之間更加危險(xiǎn)的對(duì)抗。比如說(shuō),想想看Daniel Shaver的槍擊事件吧,在看到Shaver拿著槍后,一名警察被叫到德克薩斯州的一個(gè)旅館房間里。警長(zhǎng)Charles Langley在Shaver按照他的要求趴在地面上時(shí),開(kāi)槍射殺了他。而Shaver被發(fā)現(xiàn)持有的槍是一支粒丸槍?zhuān)@是他用來(lái)從事他的害蟲(chóng)控制工作的。

  如果一個(gè)人可以犯這樣的錯(cuò)誤,電腦還有什么機(jī)會(huì)?而且,即使是監(jiān)控系統(tǒng)變得部分自動(dòng)化,這樣的錯(cuò)誤會(huì)變得更加常見(jiàn)還是更少?Stanley表示:"如果技術(shù)出現(xiàn)在那里,就會(huì)有一些警察不得不照看那里。"

  當(dāng)人工智能監(jiān)控變得普及的時(shí)候,誰(shuí)來(lái)管理這些算法呢?

  Whittaker表示,我們?cè)谶@個(gè)領(lǐng)域看到的只是人工智能大趨勢(shì)的一部分,在這個(gè)趨勢(shì)中,我們使用這些相對(duì)粗糙的工具,嘗試著根據(jù)人們的形象對(duì)他們進(jìn)行分類(lèi)。她列舉了去年發(fā)表的一項(xiàng)有爭(zhēng)議的研究作為一個(gè)類(lèi)似的例子,該研究聲稱(chēng)能夠通過(guò)面部識(shí)別來(lái)確定性取向。人工智能給出的結(jié)果的準(zhǔn)確性值得懷疑,但批評(píng)人士指出,它是否有效并不重要;重要的是人們是否相信它有用,并且是否會(huì)仍然使用數(shù)據(jù)做判斷。

  Whittaker表示:"令我感到不安的是,許多這樣的系統(tǒng)正在被注入我們的核心基礎(chǔ)設(shè)施之中,而且沒(méi)有讓我們可以提出關(guān)于有效性問(wèn)題的民主程序,也沒(méi)有通知大家將要部署這些系統(tǒng)。"Whittaker表示:"這不過(guò)是正在出現(xiàn)的又一個(gè)新的例子:算法系統(tǒng)根據(jù)模式識(shí)別提供分類(lèi)并確定個(gè)體類(lèi)型,可是這些識(shí)別模式是從數(shù)據(jù)中提取的,而這些數(shù)據(jù)里包含了文化和歷史的偏見(jiàn)。"

  當(dāng)我們向IC Realtime公司詢(xún)問(wèn)人工智能監(jiān)控可能如何被濫用的問(wèn)題時(shí),他們給出了一個(gè)在科技行業(yè)常見(jiàn)的答案:這些技術(shù)是價(jià)值中立的,只是如何使用它們以及由誰(shuí)來(lái)使用它們才決定了它們是好是壞。Sailor表示:"任何新技術(shù)都面臨著有可能落入不法之徒的手中的危險(xiǎn)。"Sailor表示:"任何技術(shù)都是如此……而我認(rèn)為在這個(gè)問(wèn)題上,利遠(yuǎn)大于弊。"

圖片展示
圖片展示

 掃一掃進(jìn)入網(wǎng)站

聯(lián)系我們

Contact us

 

聯(lián)系電話:0571-56886888 56895299

電子郵箱:8990898@qq.com

公司地址:浙江省杭州市西湖區(qū)天目山路376號(hào)龍都大廈9樓

杭州頂標(biāo)科技有限公司 版權(quán)所有          備案號(hào): 浙ICP備14007535號(hào)