From d36e1cea4fd0b3003873fc6679f270dfe393241a Mon Sep 17 00:00:00 2001
From: =?UTF-8?q?=E6=80=9D=E9=80=9A=E6=95=B0=E7=A7=91=20StoneDT?=
<13913853100@163.com>
Date: Sun, 20 Feb 2022 14:10:01 +0000
Subject: [PATCH] update dataCollection.md.
---
dataCollection.md | 45 ---------------------------------------------
1 file changed, 45 deletions(-)
diff --git a/dataCollection.md b/dataCollection.md
index 3649bbc..0c70b70 100644
--- a/dataCollection.md
+++ b/dataCollection.md
@@ -1,51 +1,6 @@
## 项目简述
-爬虫,在很多人眼里很简单、廉价一点都不奇怪,因为网上有大量9.9块Python培训课,其中包含爬虫教学。
-爬虫,在多数人眼里是灰色产业,这也不奇怪。中国在2019年出现了很多“大数据”公司,他们采用了爬虫技术窃取用户隐私。
-但是,爬虫,一词对我们来说是一门博大精深的技术,掌握这门技术是不容易的,这门技术更不是为灰色产业服务的。
-
-
-爬虫,一词,让我直接的联想到的是Google以及很多顶尖技术和团队,绝不是灰色产业和简单的技术。
-
-
-传说中,美国中央情报局(CIA)创建了一个开放源代码中心负责收集,研发生产和推广 **[开源情报(OSINT)](https://wiki.mbalib.com/wiki/%E5%BC%80%E6%BA%90%E6%83%85%E6%8A%A5)**,而开源情报的90%大部分数据来源就是互联网和公开数据源。
-
-因此,2021年末,我们给爬虫技术和数据采集,有了一个新的定义:**[开源情报(OSINT)](https://wiki.mbalib.com/wiki/%E5%BC%80%E6%BA%90%E6%83%85%E6%8A%A5)**。
-
-
-
-大多数创业团队初期都是手工作坊。
-
-在2017年初,我们跟其他的团队也没有例外。
-
-刚刚开始抓取互联网数据的时候,我们采用的是最原始的代码开发java和Python。
-
-由于,我们的运气和勤劳 团队和名气慢慢变大,手工作坊的模式反而给我们带来巨大的维护成本以及极低的稳定性。
-
-于是,我们狠下心来,开始研发一套可以管理分布式的爬虫系统,我们定义为: **爬虫工厂** 。
-
-梦想总是美好的,现实总是残酷的。
-
-在研发的过程中我们一次次的试错和尝试,让我们积累了很多经验与总结。
-
-截止积累到2021年9月份,
-
-我们最后决定将之前研发的系统重新定义和研发,代号为: **发动机计划** 。
-
-最后,到2021年12月份,
-
-推到,重来,再推到,再重来.... 整个项目设计方案过了3个月才完成,目前我们还在砺砺前行。
-
-迄今为止,我们对此的投入的研发费用早已超过的一辆 **[劳斯莱斯汽车](https://www.yoojia.com/s-322)** 的售价。
-
-2022年,新年伊始,
-
-我们做了一个更大的决定,将我们的研发成果全部开源!
-
-目的是为了能让更多的人了解我们,使用我们的研发成果,或者参与我们的项目。
-
-我们相信: **把任何事情做到极致,就是一门艺术!**
## 开源技术栈