Derek

Scik-Learn之特征工程(一)

2018/04/14 Scik-Learn 阅读次数:次 机器学习 特征工程

Scik-Learn之特征工程(一)

系统环境Ubuntu、Deepin

安装

创建一个基于Python3的虚拟环境(可以在你自己已有的虚拟环境中)

mkvitualenv -p /usr/bin/python3.5 虎势环境名称

在ubuntu的虚拟环境当中运行以下命令

pip3 install Scikit-learn

然后通过导入命令查看是否可以使用(需要Numpy,pandas乖库)

import sklearn

如果已经安装过anaconda，可以直接使用内置的scik-learn库

数据的特征抽取

sklearn特征抽取API
sklearn.feature_extraction

字典特征抽取

作用:对字典数据进行特征值化
类：sklearn.feature_extraction.DictVectorizer
DictVectorizer语法
  • DictVectorizer(sparse=True,..)
    • DictVectorizer.fit_transform(X)
      • X:字典或者包含字典的迭代器
      • 返回值：返回sparse矩阵
    • DictVectorizer.inverse_transform(X)
      • X:array数组或者sparse矩阵
      • 返回值：转换之前数据格式
    • DictVectorizer.get_feature_names(X)
      • 返回类别名称
    • DictVectorizer.transform(X)
      • 按照原先的标准转换
案例测试
from sklearn.feature_extraction import DictVectorizer


data = [{'city': '北京', 'temperature':100},
        {'city': '上海', 'temperature': 60},
        {'city': '深圳', 'temperature': 30},]

# 创建DictVectorizer实例对象
dicts = DictVectorizer(sparse=False)
mydatas = dicts.fit_transform(data)
print('Sparse矩阵：'.format(mydatas))

# 获取特征类别多名称
print('类别名称'.format(dicts.get_feature_names()))

# 数据还原
trans = dicts.inverse_transform(mydatas)
print('数据还原：'.format(trans))

运行结果

[[  0.   1.   0. 100.]
 [  1.   0.   0.  60.]
 [  0.   0.   1.  30.]]
['city=上海', 'city=北京', 'city=深圳', 'temperature']
[{'city=北京': 1.0, 'temperature': 100.0}, {'city=上海': 1.0, 'temperature': 60.0}, {'city=深圳': 1.0, 'temperature': 30.0}]

文本的特征抽取

作用：对文本数据进行特征值化
类：sklearn.feature_extraction.text.CountVectorizer

CountVectorizer语法
  • CountVectorizer()
    • 返回词频矩阵
    • CountVectorizer.fit_transform(X)
      • X:文本或者包含文本字符串的可迭代对象
      • 返回值：返回sparse矩阵
    • CountVectorizer.inverse_transform(X)
      • X:array数组或者sparse矩阵 返回值：转换之前数据格式
    • CountVectorizer.get_feature_names()
      • 返回值：单词列表
案例测试
from sklearn.feature_extraction.text import CountVectorizer

mytext = ['to be or not to be, that is a question',
              'where there is a will, there is a way']

# 创建文本特征抽取对象
dataCount = CountVectorizer()

# 获取特征数据
mydata = dataCount.fit_transform(mytext)

# 特征类别名称
print('特征类别名称：\n', dataCount.get_feature_names())

print('特征数据矩阵:\n',mydata.toarray())

# 数据还原
print('数据还原:',dataCount.inverse_transform(mydata))

对中文进行特征提取时需要先使用jieba进行分词
下载pip3 install jieba
使用 import jieba
jieba.cut(‘机器学习’)
返回词语生成器 ```

TF-IDF

TF-IDF的主要思想是：如果某个词或短语在一篇文章中出现的概率高， 并且在其他文章中很少出现，则认为此词或者短语具有很好的类别区分 能力，适合用来分类 TF-IDF作用：用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。 类：sklearn.feature_ectraction.text.TfidfVectorizer

TfidfVectorizer语法
  • TfidfVectorizer(stop_words=None,…)
    • 返回词的权重矩阵
    • TfidfVectorizer.fit_transform(x)
      • X:文本或者包含文本字符串的可迭代对象
      • 返回值：返回sparse矩阵
    • TfidfVectorizer.inverse_transform(X)
      • X:array数组或者sparse矩阵
      • 返回值：转换之前数据格式
    • TfidfVectorizer.get_feature_names()
      • 返回值：单词列表
案例测试
from sklearn.feature_extraction.text import TfidfVectorizer

mytext = ['to be or not to be, that is a question','where there is a will, there is a way']

# 创建tf-idf实例化对象  

```python
tfidfs = TfidfVectorizer()

获取TF-IDF特征对象

mydata = tfidfs.fit_transform(mytext)

print('特征类别：',tfidfs.get_feature_names())
print('特征矩阵：',mydata.toarray())

print('数据还原：',tfidfs.inverse_transform(mydata))

运行结果

特征类别： ['be', 'is', 'not', 'or', 'question', 'that', 'there', 'to', 'way', 'where', 'will']
特征矩阵： [[0.56554419 0.20119468 0.2827721  0.2827721  0.2827721  0.2827721
  0.         0.56554419 0.         0.         0.        ]
 [0.         0.47368202 0.         0.         0.         0.
  0.66574355 0.         0.33287178 0.33287178 0.33287178]]
数据还原： [array(['to', 'be', 'or', 'not', 'that', 'is', 'question'], dtype='<U8'), array(['is', 'where', 'there', 'will', 'way'], dtype='<U8')]

Search

    Table of Contents