Visualize Shell History

注：代码写得很烂，不过感觉挺好玩所以写在这里。欢迎各路大牛指教。完整代码见github/reverland/scripts/tagcloud.py

曾经在linux用户中流行这么一个命令

~ ⮀ history | awk '{CMD[$2]++;count++;} END { for (a in CMD )print CMD[ a ]" " CMD[ a ]/count*100 "% " a }' | grep -v "./" | column -c3 -s " " -t |sort -nr | nl | head -n20 
    1  852  24.3012%    sudo
    2  376  10.7245%    pacman
    3  163  4.64917%    vim
    4  133  3.7935%     tsocks
    5  101  2.88078%    cd
    6  95   2.70964%    kill
    7  88   2.50998%    eix
    8  70   1.99658%    python2
    9  70   1.99658%    emerge
    10  69   1.96805%    ls
    11  63   1.79692%    git
    12  54   1.54022%    gcc
    13  51   1.45465%    pip2
    14  39   1.11238%    python
    15  37   1.05533%    pip
    16  37   1.05533%    nmap
    17  35   0.998289%   su
    18  32   0.912721%   xrandr
    19  31   0.884199%   rvm
    20  27   0.770108%   ssh

多cool的一个命令……我完全看不懂awk啥的……几天前看The practice of computing using python，上面讲到简单的文本处理和标签云，便想到把shell history用标签云的方式可视化出来。就是这样，我啥也不会。

先把shell历史定向到一个文件中吧，或者把zsh_history啥复制下

history > hist.txt

然后如何可视化呢？抱着有需求先搜寻有没有开源实现的想法找到了pytagcloud，稍加调整，生成的标签云相当漂亮：

oops!好大两个“异常词”，这么说一看我就是sudo党了，而且是经常滚的arch党……

为了看清更多细节，反映更多客观事实把这两个词去掉

看上去好多了………

pytagcloud还提供生成html数据的函数，你可以在线看看效果：

Demo

自己动手

其实自己实现类似的效果很简单，获得更明晰的理解和灵活性。

先给出以下要用的控制大小的参数，后面将直接用到它们。你可能需要多次调整来探索适合自己的数值，事实上，为了生成不同文本的标签云我试过了几十次。

boxsize = 600
basescale = 10
fontScale = 0.5
omitnumber = 5
omitlen = 0

文本处理

我们刚才保存的hits文件是这样的：

2480  pacman -Ss synap
2481  sudo pacman -S synaptiks
2482  synaptiks
2483  pypy
2484  vim pypy.py
2485  pypy pypy.py
2486  pip2 freeze
2487  pip2 freeze|grep flask
2488  pip2 install Flask
2489  pip2 install --upgrade Flask 

显然我们只要每行第二个词就行,这个任务很简单，我选择先将所有命令合并成一个大字符串，因为最开始我是直接用pytagcloud来生成标签云的，而它的示例代码用的是整个字符串：

def cmd2string(filename):
    '''accept the filename and return the string of cmd'''
    chist = []

    # Open the file and store the history in chist
    with open(filename, 'r') as f:
        chist = f.readlines()
        # print chist

    for i in range(len(chist)):
        chist[i] = chist[i].split()
        chist[i] = chist[i][1]
    ss = ''
    for w in chist:
        if w != 'sudo' and w != 'pacman':
            ss = ss + ' ' + w

    return ss

接着将字符串转换成字典，单词为键，出现次数为值：

def string2dict(string, dic):
    """split a string into a dict record its frequent"""
    wl = string.split()
    for w in wl:
        if w == '\n':  # 因为后来我看到中文分词结果中有\n...
            continue
        if w not in dic:
            dic[w] = 1
        else:
            dic[w] += 1
    return dic

接下来的两个函数来自之前我提到的那本书，稍微改动下让它在firefox18下正常显示，并且稍作美化，更改为随机的字体色彩和黑色背景。

这两个函数的含义是不言自明的，必要的html/css知识是需要的。[^1]

def makeHTMLbox(body, width):
    """takes one long string of words and a width(px) then put them in an HTML box"""
    boxStr = """<div style=\"width: %spx;background-color: rgb(0, 0, 0);border: 1px grey solid;text-align: center; overflow: hidden;\">%s</div>
    """
    return boxStr % (str(width), body)


def makeHTMLword(body, fontsize):
    """take words and fontsize, and create an HTML word in that fontsize."""
    #num = str(random.randint(0,255))
    # return random color for every tags
    color = 'rgb(%s, %s, %s)' % (str(random.randint(0, 255)), str(random.randint(0, 255)), str(random.randint(0, 255)))
    # get the html data
    wordStr = '<span style=\"font-size:%spx;color:%s;float:left;\">%s</span>'
    return wordStr % (str(fontsize), color, body)

Now, it’s time to get the proper html files of the tag cloud!

# get the html data first
wd = {}
s = cmd2string(filename)
wd = string2dict(s, wd)
vkl = [(k, v) for k, v in wd.items() if v >= omitnumber and len(k) > omitlen]  # kick off less used cmd
words = ""
for w, c in vkl:
    words += makeHTMLword(w, int(c * fontScale + basescale))   
html = makeHTMLbox(words, boxsize)
# dump it to a file
with open(filename.split('.')[0] + '.' + 'html', 'wb') as f:
    f.write(html)

将以上内容写到一个文件中，命名为比如说tagcloud.py：

python2 tagcloud.py hist.txt # `import sys` and let filename = sys.argv[1]
# or `run tagcloud.py hist.txt` in ipython

看看效果吧：

相当棒不是么？[^2]

十八大报告标签云

为了深刻领会党的十八大大会精神^3，我做了下我党的十八大报告标签云：

先从网上找到总书记的十八大报告全文，保存为shibada.txt:

中文分词有个相当不错的python库jieba

将单词保存到一个字典中

import jieba

with open('shibada.txt','r') as f:
    s = f.read()
wg = jieba.cut(s, cut_all=True)
wd = {}
for w in wg:
    if w not in wd:
        wd[w] = 1
    else:
        wd[w] += 1

生成html数据：

for w, c in vkl:
        words += makeHTMLword(w, int(c * fontScale + basescale))   
html = makeHTMLbox(words, boxsize)
htmlzh = unicode.encode(html,'UTF-8')  # Important！
# dump it to a file
with open(filename.split('.')[0] + '.' + 'html', 'wb') as f:
    f.write(htmlzh)

嗯……深刻领会了十八大精神^4。

What’s more

可以将标签云移植到博客上。

Footnotes

[^1]:抱歉……我忘记python怎么将长行划分了\ or \\?
[^2]:emerge 乱入……