【论文】A Hierarchical Fused Fuzzy Deep Neural Network for Data Classification

论文题目：A Hierarchical Fused Fuzzy Deep Neural Network for Data Classification

作者：Yue Deng, Zhiquan Ren, Youyong Kong, Feng Bao, and Qionghai Dai

会议/时间：IEEE TRANSACTIONS ON FUZZY SYSTEMS, 2017

链接: ieeexplore

论文目标

在深度神经网络中引入模糊逻辑从而应对数据中的噪声和不确定度。

之前的工作大多是使用模糊逻辑处理模型的输入（Fuzzier）或者输出（Defuzzier），论文中将模糊逻辑和神经网络并行处理得到的特征融合在一起。

本文方法

整体结构如图。模糊逻辑部分使用高斯隶属度，神经网络部分使用MLP，最后使用线性组合的方式得到融合后的模型，再通过全链接得到任务所需要的输出结果。

在训练的时候，考虑到模型对初始化比较敏感，使用了$w \sim U[-\frac{1}{\sqrt{n^{l-1}}}, \frac{1}{\sqrt{n^{l-1}}}]$初始化神经网络部分的参数，使用[[K-means 算法]]得到的聚类结果作为fuzzy部分的初始化。

We follow the method in [16] to initialize the fuzzy member-ship nodes according to k-means results on the input data, where k is suggested the same as the class number to be classified. [16]  N.KasabovandQ.Song,“Denfis:Dynamic evolving neural-fuzzy inference system and its application for time-series prediction,” IEEE Trans. Fuzzy Syst., vol. 10, no. 2, pp. 144–154, Apr. 2002.

结果分析

在三个任务上进行了实验：1）data classification tasks of image categorization, 2）brain magnetic reso- nance imaging (MRI) segmentation and 3）high-frequency financial tick prediction。取得了不错的效果。