机器学习是人工智能的最基础、最核心技术(算法),但机器学习的执行通常都是以一组基本的先验假设为前提的,这些基本假设包括: 假设空间的大容量假设、训练数据的完备性假设、损失度量的独立性假设、正则项的先验决定假设、分析框架的欧几里德假设等。一个机器学习算法的性能是由这些先验假设(要素选择)决定的。本报告分析这些假设的作用、局限及其影响,提出突破这些基本假设的系列途径与方法。每一情况下,我们举例说明新突破带来新价值。 机器学习的当下应用还是“人工”的:人工标注数据、选择数据,人工搭建网络、选择算法,人工切换任务、适应环境;仍处于“选择”阶段,还没有达到“自主设计”“创新设计”水平。随着人工智能技术的发展,机器学习必须要从人工化,走向自动化,迈向自主化。在这样的AI发展大趋势下,让机器学会人类的学习方法论,或者更严格地说,学会模拟学习方法论(Simulate Learning Methodology,SLeM)成为一种必需和趋势。本报告后一部分严格定义学习学习方法论问题,提出SLeM的双层优化模型和“超参数化”求解方法,建立SLeM的基本理论,并展示对多个机器学习自动化问题的成功应用。