upwork-crawler是一款简便实用的爬虫工具,专门设计用来自动采集Upwork平台上的工作机会和雇佣相关信息,帮助用户快速获取最新就业资讯。
关于该项目
一个简单的网络爬虫可以从Upwork获取就业数据。
入门指南:
要启动并运行本地副本,请遵循以下步骤:
先决条件:
这是运行该项目需要安装的先决条件。
如果使用Docker,您还需要安装相关软件。
在本地运行:
1. 克隆仓库:`git clone https://github.com/mgiovani/upwork-crawler.git`
2. 安装依赖项:`make install`
3. 编辑凭据文件 `.env`: `vim .env`
4. 加载环境变量文件: `source .env`
5. 运行代码:`make run`
或者,如果您希望在调试模式下激活Selenium的非无头模式,请使用:
`make run-debug-mode`
使用Docker运行:
1. 复制示例配置文件并重命名:`cp env.example .env`
2. 编辑凭据文件 `.env`: `vim .env`
3. 加载环境变量文件: `source .`