FeedCrawler

FeedCrawler

Docker app from rix's Repository

Overview

This python-based script automates downloads for JDownloader crawling web feeds.
After the first launch you need to provide correct hostnames in FeedCrawler.ini at /config.
Only useful for German users. Very advanced and user friendly features.

Important Notice / Wichtiger Hinweis

English:
This project is now a public archive and is no longer under active development.
It is recommended to switch to the much more streamlined Quasarr. 😃🚀

Deutsch:
Dieses Projekt ist nun ein öffentliches Archiv und wird nicht mehr aktiv weiterentwickelt.
Es empfiehlt sich, zum wesentlich schlankeren Quasarr zu wechseln. 😃🚀

FeedCrawler

FeedCrawler automatisiert bequem das Hinzufügen von Links für den JDownloader.

GitHub Workflow Status GitHub stars GitHub all releases

PyPI PyPI - Downloads

Docker Image Version (latest semver) Docker Pulls

GitHub license Python 3 Backend Vue.js 3 Frontend GitHub last commit GitHub commit activity Lines of code

GitHub Sponsorship Discord GitHub issues


Installation

Manuelle Installation

Voraussetzungen

Installation / Update durch pip

pip install -U feedcrawler

Lokaler Build

Benötigt Node.js, npm und pip:

  1. Frontend-Pfad aufrufen: cd feedcrawler/web_interface/vuejs_frontend
  2. Dependencies installieren: npm ci
  3. Vue.js 3 Frontend kompilieren: npm run build
  4. Zurück in das Hauptverzeichnis wechseln: cd ../../..
  5. FeedCrawler auf Basis der setup.py installieren: pip install .

Start

feedcrawler in der Konsole (Python muss im System-PATH hinterlegt sein)

Docker Image

docker run -d \
  --name="FeedCrawler" \
  -p port:9090 \
  -v /path/to/config/:/config:rw \
  -e DELAY=30 \
  -e LOGLEVEL=[INFO/DEBUG] \
  --log-opt max-size=50m \
  rix1337/docker-feedcrawler
  • Der Betrieb als Docker-Container empfiehlt sich als Standardinstallation - vor allem für NAS-Systeme, Homeserver und sonstige Geräte die dauerhaft und möglichst wartungsfrei (headless) betrieben werden sollen.
  • Bei jedem Release wird ein getaggtes Image erstellt. Damit kann man auf der Wunschversion verbleiben oder im Falle eines Bugs zu einer stabilen Version zurück kehren.
  • Um immer auf dem aktuellen Stand zu sein, einfach das mit latest getaggte Image nutzen.
  • Für UNRAID-Server kann das Image direkt über die Community Applications bezogen und der Container so eingerichtet werden.
Spezifische Version nutzen

Das Image rix1377/docker-feedcrawler wird standardmäßig auf das :latest-Tag aufgelöst. Dieses wird mit jedem Release auf die neue Version aktualisiert. Mit jedem Release wird ebenfalls eine getaggte Version des Images erzeugt. Auf letztere kann man wechseln, um beispielsweise bei Fehlern in der neuen Version auf einen funktionierenden Stand zurück zu kehren.

Beispiel:

docker pull rix1337/docker-feedcrawler:13.3.7

Windows Build

  • Jedem Release wird eine selbstständig unter Windows lauffähige Version des FeedCrawlers beigefügt.
  • Hierfür müssen weder Python, noch die Zusatzpakete installiert werden.
  • Einfach die jeweilige Exe herunterladen und ausführen bzw. bei Updates die Exe ersetzen.

Hostnamen

FeedCrawler kann zum Durchsuchen beliebiger Webseiten verwendet werden. Welche das sind, entscheiden Anwender selbständig bei der Einrichtung. Es gilt dabei:

  • Welche Hostname aufgerufen werden entscheidet allein der Anwender.
  • Ist nicht mindestens ein Hostname gesetzt, wird der FeedCrawler nicht starten.
  • Passen Hostnamen nicht zum jeweiligen Suchmuster des FeedCrawlers, sind Fehlermeldungen möglich.

Startparameter

Parameter Erläuterung
--log-level=<LOGLEVEL> Legt fest, wie genau geloggt wird (INFO oder DEBUG)
--port=<PORT> Legt den Port des Webservers fest
--delay=<SEKUNDEN> Verzögere Suchlauf nach Start um ganze Zahl in Sekunden (optional)

Sicherheitshinweis

Der Webserver sollte nie ohne Absicherung im Internet freigegeben werden. Dazu lassen sich im Webinterface Nutzername und Passwort festlegen.

Es empfiehlt sich, zusätzlich einen Reverse-Proxy mit HTTPs-Zertifikat, bspw. kostenlos von letsencrypt, zu verwenden.

Credits

Install FeedCrawler on Unraid in a few clicks.

Find FeedCrawler in Community Apps on your Unraid server, review the template, and click Install. Unraid handles the Docker app or plugin setup from the published template.

Open the Apps tab on your Unraid server Search Community Apps for FeedCrawler Review the template variables and paths Click Install

Categories

Download Statistics

50,647
Total Downloads
245
This Month
194
Avg / Month

Total Downloads Over Time

Loading chart...

Related apps

Explore more like this

Explore all

Details

Repository
rix1337/docker-feedcrawler
Last Updated2025-01-27
First Seen2021-04-09

Runtime arguments

Web UI
http://[IP]:[PORT:9090]/
Network
bridge
Shell
sh
Privileged
false
Extra Params
--log-opt max-size=50m

Template configuration

WebserverPorttcp

Container Port: 9090

Target
9090
Value
9090
Config-PathPathrw

Container Path: /config

Target
/config
Default
/mnt/user/appdata/feedcrawler
Value
/mnt/cache/appdata/feedcrawler/
Delay first feed search after launch in SecondsVariable

Container Variable: DELAY

Target
DELAY
Log LevelVariable

Container Variable: LOGLEVEL

Target
LOGLEVEL