欧洲云计算巨头 OVH 位于法国斯特拉斯堡的机房昨日发生严重火灾，该区域总共有 4 个数据中心 (Strasbourg Data Center)，发生起火的 SBG2 数据中心被完全烧毁，另有一个数据中心 SBG1 的建筑物部分受损，SBG3 因受到消防保护暂未受影响，以及 SBG4 确认没有受到波及。不过出于安全起见，OVH 位于斯特拉斯堡的全部数据中心暂时关闭了服务。OVH 在全球拥有 27 个数据中心，其中 15 个位于欧洲。昨天这场灾难被认为已导致超过 350 万个网站下线，而这一切发生在 OVH 启动了首次公开募股 (IPO) 计划两天后。Rust 旗下的游戏工作室 Facepunch Studios 证实，他们的数据已在这场大火中全部丢失，即使数据中心重新上线后，也无法恢复...阅读全文
文可见：DNSCrypt简明教程 - Jiajun的编程随想我们输入 jiajunhuang.com 之后，浏览器是需要将 jiajunhuang.com 翻译成IP，然后才能建立TCP连接的。而将域名翻译成IP地址， 就是DNS服务器的事情，但是有一个小问题，DNS是明文的。也就是说，尽管你使用了HTTPS，由于在建立TLS连接之前，你得先查询域名所对应的IP，因此，还是可以通过监控你的DNS来推测你准备 访问什么流量，更坏一点的情况，可以给你伪造一个响应，返回错误的地址，这种情况就叫做“DNS污染”。所以我们需要使用DNSCrypt来加密我们的DNS通信：$ sudo pacman -S dnscrypt-proxy然后编辑 /etc/dnscrypt-proxy/dnscrypt...阅读全文
Scrapy 是一个为了爬取网站数据，提取结构性数据而编写的应用框架。 可以应用在包括数据挖掘、信息处理或存储历史数据等一系列的程序中。本文着重介绍 Scrapy 架构及其组件之间的交互。 Scrapy 组件介绍 Scrapy Engine 引擎负责控制数据流在系统中所有组件中流动，并在相应动作发生时触发事件。 详细内容查看下面的数据流(Data Flow)部分。 调度器(Scheduler) 调度器从引擎接受request并将他们入队，以便之后引擎请求他们时提供给引擎。 下载器(Downloader) 下载器负责获取页面数据并提供给引擎，而后提供给spider。 Spiders Spider 是 Scrapy用户编写用于分析response并提取item(即获取到的item)或额外跟进的...阅读全文
SciPy 是一个开源的 Python 算法库和数学工具包。SciPy 包含的模块有最优化、线性代数、积分、插值、特殊函数、快速傅里叶变换、信号处理和图像处理、常微分方程求解和其他科学与工程中常用的计算。 10月25日，SciPy 团队成员 Ralf Gommers 在 Python 官方邮件组发文宣布 SciPy 1.0 终于发布了。 Ralf 称，很高兴宣布 SciPy 1.0 的发布，自从 0.1 版面世 16 年后，1.0 版姗姗来迟。这是一次漫长而富有成效的旅程，期待在未来有更多令人激动的特性。 为什么现在才发布 1.0 版呢？ Ralf 认为版本号应当体现出项目的成熟程度，SciPy 是一个成熟且稳定的库，已经在生产环境长期大量使用很久了。从这个角度来说，1.0 版来晚了。 最...阅读全文
source /etc/profile Hadoop文件配置 配置文件都在etc/hadoop/文件夹下 1. hadoop-env.sh # jdk环境变量 （因为要远程调用 ${java_home}找不到变量） export JAVA_HOME=/usr/lib/jvm/jdk 2. workers # 添加所有slave机器的hostname slave1 slave2 slave3 3. core-site.xml