《可解释机器学习公开课》来了！
Datawhale开源
联合发布：同济子豪兄、Datawhale
文章目录
1.什么是机器学习的可解释性分析。
2.学可解释机器学习有什么用？
3.可解释机器学习开源学习计划，同济子豪兄和 Datawhale 联合发布。
什么是可解释AI
现代的机器学习和人工智能，属于“统计学习”，通过大量的数据和经验训练算法，拟合出决策边界和数据分布。
比如识别猫狗的神经网络，输入大量标注好类别的图像，通过神经网络算法，在高维空间拟合非线性、非凸的数据分布和决策边界。
但没人知道神经网络拟合出的数据分布和决策边界真正长什么样子。
并且随着神经网络越来越深，参数越来越多，数据量越来越大。人工智能变得越来越像黑盒子。
人类根本不清楚它内部的脑回路，到底是怎么做出决策的。
AI到底学习到了哪些特征，是不是符合人类的直觉和常识。
AI什么时候work，什么时候不work。
AI到底有没有过拟合，如何进一步改进它和数据集。
特别是医疗、无人驾驶、金融这些人命关天的领域，你愿不愿意把身家性命托付给AI。
可解释性分析，就是研究如何打开人工智能的黑箱子，洞悉AI的脑回路和注意力，进而解释它、了解它、改进它、信赖它。知其然，也知其所以然。
可解释AI有什么用？
研究AI的脑回路，就是研究AI的本质。
可解释分析是人工智能的通用研究方法，无论传统数据挖掘、计算机视觉、自然语言处理、强化学习，都可以和可解释性分析交叉融合，作为研究工作的核心创新点。
包括但不限于：大模型、缺陷异常检测、细粒度分类、决策AI和强化学习、图神经网络、AI纠偏、AI4Science、Machine Teaching、对抗样本、可信计算。
对YOLO目标检测做可解释性分析：
图1：来源OpenMMLab
甚至，还可以让AI把学到的知识教给人类，比如下围棋，识别鸟类、打游戏、画画，从Machine Learning升华到Machine Teaching，引领人类进步。
Datawhale开源学习计划
可解释机器学习系列公开课，包含人工智能可解释性分析领域的导论、算法综述、经典论文精读、代码实战、前沿讲座。由B站知名UP主“同济子豪兄”主讲，课程视频免费开源。
开源地址：https://github.com/TommyZihao/zihao_course/tree/main/XAI
更多开源教程：
https://github.com/datawhalechina
参与组队学习：
本课程还得到了周博磊（UCLA）、程明明（南开大学）、姜鹏涛（浙江大学）、赵冰辰（爱丁堡大学）、杨思苇（同济大学）等老师，和Datawhale、量子位、 中国图象图形学学会-科普与教育工作委员会的大力支持。
图2：公开课内容
图3：论文逐句精读
开源学习贡献者
航路开辟者（主讲人）
张子豪，B站人工智能科普UP主“同济子豪兄”：https://space.bilibili.com/1900783
微软人工智能最有价值专家（MVP）、华为人工智能HCDE云享专家、上海人工智能实验室计算机视觉算法研究员。
代表作：精读AI经典论文、编程奇妙夜、斯坦福CS231N、CS224W公开课中文精讲、OpenMMLab代码实战。
航海士（助教）：
吕豪杰，Datawhale成员，北京邮电大学
乔宇，北京大学软件工程在读研究生，研究方向：可解释性AI、建筑学。
张燕，研究方向：可解释性AI、因果学习。
田文博，曾参与国家田径队人体姿态估计分析工作。
刘一鸣，北京工业大学在读博士，研究方向：深度学习可解释性、废旧家电识别。