人工智能與安全
主講老師: 趙志強 查看講師詳情>>
工作背景：
20+年大數據與人工智能應用實踐經驗
哈爾濱工業大學軟件工程碩士/企業管理博士
哈爾濱工業大學、東北林業大學校外碩士導師
曾任：哈工大大數據（江蘇）研究院（產學研機構）|院長
曾任：珠海金山軟件公司（上市互聯網企...
主講課程：
企業數字化轉型系列：
《面向企業數字化轉型的大數據頂層設計實踐》
《現代金融科技驅動商業銀行智能化轉型》
《人工智能與安全》
《工業互聯網：智能制造與數字化平臺建設》
大數據價值創新系列：
...
人工智能與安全課程大綱詳細內容
課程分類： 人工智能
課程目標：
厘清大數據、人工智能體系中的關鍵問題；
熟悉人工智能行為體的分類及對應安全問題；
了解世界各國人工智能發展戰略規劃與安全倫理準則；
熟悉社會常見的人工智能應用，強化對智能的認知；
熟悉掌握新興技術成熟度曲線，把握未來技術發展趨勢；
了解人工智能主要流派與基本原理、主流神經網絡模型；
熟悉人工智能安體系與架構及通用人工智能的發展趨勢。
課程對象：創業者、企業負責人、企業創始團隊、董事會成員 ● 企業高級管理人員，總經理、總工程師、副總經理等； ● 渴望掌握新興技術價值落地的企業中層以上管理人員及工程師； ● 高校MBA、EMBA、DBA專業研究生； ● 地方政府中、高級管理干部及相關領域公務員； ● 國家“十四五”規劃中智能制造及戰略新興產業中相關人士。
課程時間：2天，6小時/天
課程大綱:
案例：“我的一天”
研討：(GP-分組對抗記分點)感受智能化，分組討論描述“你的一天”，并指出哪些應用或名詞是和人工智能緊密相關？（除老師事先講過的，答對一條記1分）
導入2：“人工智能威脅論”
案例：人工智能的技術發展，對人類來說到底是生存還是毀滅？
研討：(GP-分組對抗記分點)分組匯總每位同學的觀點，提交給老師。
備注：GP-為短時時間討論，一般不超過5分鐘，LGP為長時間討論，一般在5-20分鐘；GP活動由老師根據現場情況發起或不發起，非固定活動。下同。
第一講：大數據時代特征與人工智能國家戰略
一、從互聯網到大數據時代的演變過程
1. 從互聯網、Web2.0、移動互聯網看人類在線化過程
2. 人類在線化過程與行為數據的關系
案例分析：以商業購物場景為例，分析人類活動的在線變化及其產生的行為數據
小組研討：(GP)分組設計其他場景,延伸到物聯傳感網，并總結，老師點評并打分
3. 大數據的來源與全球數增長情況分析
4. 數據計量單位的換算
5. 5G的戰略地位與價值
6. 大數據的兩個重要特征
7. 大數據價值的現狀
二、國際與中國人工智能發展
1. 中國：人工智能的國家戰略與“智能+”
2. 世界各國人工智能發展對比分析
3. 解讀“十四五”規劃給我們的啟示
小組研討：(LGP)找出所在行業的有關人工智能方面的國家或地方政策規劃，分析原因與機會
第二講：人工智能發展史
一、人工智能的起源
1. 人工智能產生的背景
2. 圖靈與圖靈測試
3. 達特茅斯會議與“人工智能”
二、人工智能的三次浪潮
1. 第一次人工智能浪潮：推理與探索
案例分析：計算機在使用“推理和探索”的興起與沒落
2. 第二次人工智能浪潮：知識工程
案例分析：專家系統的窘境與問題
3. 我們正在第三次人工智能浪尖上：大數據與深度學習
案例分析：人工智能發展歷程中的里程碑事件
第三講：人工智能原理
一、人工智能定義與分類
1. 人工智能的定義與正確理解
2. 計算智能、感知智能與認知智能
3. 人工智能的幾大門派其及技術發展方向
二、人工智能人才與知識體系
1. 學科領域交叉與滲透下的人工智能創新協同
2. 世界及中國人工智能類人才培養現狀
案例分析：中國某頂尖大學人工智能研究院體系及研究領域
3. 把握與跟蹤人工智能技術發展趨勢的方法
案例分析：深度分析Gartner曲線
實操演練：(LGP)依據現場給出的某人工智能應用,依據Gartner曲線分析其技術發展規律與特點
三、數據智能平臺技術體系
1. 大數據技術平臺架構
2. 人工智能技術平臺架構
3. 通用深度學習開源框架與特點
第四講：常見深度學習模型與應用
一、傳統數據模型與應用
1. 常見傳統數據算法與模型
2. 常見傳統數據算法的應用
二、深度神經網絡(DNN)模型與應用
1. DNN模型
2. DNN應用場景：搜索排序、推薦排序
三、卷積神經網絡(CNN)模型與應用
1. CNN模型
2. CNN應用場景：圖像識別、視頻分析
四、循環神經網絡(RNN)模型與應用
1. RNN模型
2. RNN應用場景：語音識別、自然語言處理
案例分析：人機智力大戰的巔峰——阿爾法狗
第五講：機器人技術及其應用原理（選講課程）
一、機器人概述
1. “robot”一詞的來源
2. 機器人定義與相關概念
3. 機器人發展歷程
4. 機器人分類
二、機器人基本原理及應用
1. 機器人控制系統的基本結構
2. 工業機器人
3. 農業機器人
4. 醫療機器人
5. 服務機器人
6. 特種機器人
案例分析：機器人在工業、農業、醫療等領域的應用
第六講：人工智能與安全哲學
一、安全
1. 人類社會對安全的認知與理解
2. 人工智能安全、人工智能與安全
二、通用人工智能安全的哲學命題
1. 技術革命視角下的人類四次紀元
2. 第四次紀元的不可控因素
3. 人工智能的安全命題
4．通用人工智能的三個哲學命題
小組研討：（LGP）基于哲學上的命題，分組討論形成各自主張。
第七講：人工智能產業生態與安全
一、人工智能產業生態
1. 人工智能應用領域
2. AI芯片與視覺傳感器
3. AI通用技術
案例分析：主流機器視覺、語音識別、自然語言、知識圖譜應用的市場與趨勢
二、狹義人工智能安全
1. 人工智能的安全體系
2. 人工智能的安全倫理概要
3. 人工智能安全對社會的沖擊
4. 人工智能安全VS網絡安全VS信息安全
案例分析1：全球首例自動駕駛車輛撞死行人的案件
案例分析2：《2020年度全球十大人工智能治理事件》
第八講：人工智能內生安全
一、數據安全
1. 數據投毒與反制
2. 對抗樣本攻擊與反制措施
4. 對產業界及管理者的啟示
案例分析1：深網視界曝出數據泄露事件
案例分析2：地下產業鏈之數據隱私市場
案例分析3：網上熱傳的幾家著名科技公司的安全事件解讀
二、算法與模式安全
1. 算法的可解釋性與安全
2. 模型存儲與管理的安全問題
3. 開源模型的安全問題
4. 對產業界及管理者的啟示
案例分析1：一支激光筆是如何打敗了自動駕駛？
案例分析2：醫療領域人工智能診斷技術應用的尷尬
三、框架與運行安全
1. 架框安全問題
2. 主觀與客觀原因上的運行安全與保障問題
3. 對產業界及管理者的啟示
案例分析：幾起自動駕駛車禍背后的安全分析
小組研討：（LGP）結合分組學員企業的情景，研討應用人工智能內生安全的思路。
第九講：人工智能衍生安全與倫理
一、人工智能衍生安全
1. 智能系統失誤引發的安全事故
案例分析1：當自動駕駛、智能機器人、智能音箱、醫療機器人失效后……
案例分析2：聊天機器人的偏激言論引發的群體影響
2. 人工智能行為體失控要素分析
案例分析：“機器人三定律”
3. 國際上預防人工智能技術失控的舉措
二、人工智能倫理
1. 人工智能體是否應該賦予“人權”？2. 通過使用人工智能的人權侵犯問題3. 人工智能是否能成為倫理主體4. 人工智能的倫理責任問題案例分析：幾起自動駕駛案件的責任追究
小組研討：(GP)現實生活或科幻電影中的“智能人”，及其引發倫理的故事關鍵詞。
三、人工智能倫理準則
1. 世界各國關于人工智能技術發展的倫理準則
2. 人工智能技術倫理準則的共識性與爭議性3. 我國專門提出人工智能倫理與法律的“三步走”規劃案例分析：解讀《2020年度全球十大人工智能治理事件》的處理結果
結束語：人工智能安全的未來展望!
