AI×フリーランス案件獲得自動化シリーズ① クラウドワークス案件をPythonでスクレイピングしても大丈夫?
はじめに


0:24:05
フリーランス案件を探していると、
「案件を探す → 内容を読む → 応募する」
という作業に意外と時間がかかる。
私は現在、フリーランスエンジニアとしての活動を進めながら、技術資産を蓄積している。
そんな中でふと思った。
クラウドワークスの案件をPythonでスクレイピングして、自動で応募判断できないだろうか?
今回は、このアイデアについて調べながら整理した内容をまとめておきたい。
やりたいこと
イメージとしては以下のような流れである。
クラウドワークス
↓
案件情報取得
↓
Pythonで分析
↓
応募候補を表示
↓
自分で応募判断
例えば、
- Python案件
- Django案件
- React案件
- WordPress案件
などを自動で抽出し、
自分との相性をスコアリングできたら便利そうだと思った。
スクレイピングは注意が必要
しかし、ここで気になったのが利用規約である。
一般的に、
ブラウザで閲覧
↓
問題なし
であっても、
自動プログラムによる大量取得
↓
規約違反となる可能性あり
というケースは珍しくない。
理由としては、
- サーバーへの負荷
- データの無断利用
- ボットによるアクセス
などがある。
そのため、
「Pythonで取得できる」と「取得してよい」
は別の話である。
技術的に可能だからといって、利用規約上も問題ないとは限らない。
本当にやりたいことは何か
ここで改めて考えてみた。
私がやりたいことは、
「スクレイピングそのもの」
ではない。
本当にやりたいことは、
案件探しの効率化
である。
つまり、
案件を探す
↓
自分向きか判断する
↓
応募する
の時間を減らしたいだけなのだ。
目的と手段を分けて考えることが大切だと思った。
より安全な方法① 手動収集+Python分析
例えば、
気になる案件を手動で集めて、
CSVやスプレッドシートに保存する。
その後、
Pythonで分析する方法がある。
score = 0
if "Python" in text:
score += 50
if "Django" in text:
score += 30
if "React" in text:
score += 20
if budget >= 30000:
score += 30
このような形で、
案件との相性を数値化できる。
より安全な方法② 通知メールを活用する
クラウドワークスには検索条件保存や通知機能がある。
例えば、
- Python
- Django
- React
- WordPress
などの条件で通知を受け取る。
その後、
メールをAIに分類してもらう。
これなら規約面のリスクはかなり低い。
より安全な方法③ 案件管理アプリを作る
個人的にはこれが一番面白そうだと思った。
案件情報
↓
データベース保存
↓
AIスコアリング
↓
応募候補表示
という流れである。
例えば、
- 自分向き度
- 想定受注率
- 学習価値
- 報酬
などを評価できる。
これは単なる応募支援ツールではなく、
個人開発の題材としても面白い。
現時点での結論
現時点では、
無理にスクレイピングを行うよりも、
まずは案件情報を整理してAIで評価する仕組みを作る方が良さそうだと思った。
特に私は現在、
技術資産蓄積フェーズにいる。
そのため、
案件応募の効率化だけでなく、
その仕組み自体をポートフォリオとして活用する方が価値が大きい。
今回学んだこと
- スクレイピングの可否は利用規約の確認が重要
- 技術的に可能なことと利用可能なことは別
- 本当に達成したい目的は「案件探しの効率化」
- AIとPythonを活用して応募判断を支援する仕組みは作れそう
- 個人開発の題材としても面白い
次にやること
- クラウドワークスの応募基準を整理する
- 案件スコアリングルールを考える
- Pythonで簡単な判定ロジックを作る
- Django × Reactで案件管理アプリ化を検討する
技術を学ぶだけでなく、自分自身の働き方を改善するためのツールを作る。
それもまた、エンジニアとしての面白さの一つだと思う。
コメントを残す