Cron i virtualenv

Próbuję uruchomić polecenie zarządzania Django z crona. Korzystam z virtualenv, aby utrzymać swój projekt w trybie piaskownicy.

Widziałem przykłady tu i gdzie indziej, które pokazują uruchamianie poleceń zarządzania z poziomu virtualenv, takich jak:

0 3 * * * source /home/user/project/env/bin/activate && /home/user/project/manage.py command arg

Jednak pomimo tego, że syslog pokazuje wpis, kiedy zadanie powinno się rozpocząć, zadanie to nigdy się nie uruchamia (plik dziennika skryptu jest pusty). Jeśli uruchomię linię ręcznie z powłoki, działa ona zgodnie z oczekiwaniami.

Jedynym sposobem, w jaki mogę obecnie uruchomić polecenie za pomocą crona, jest rozbicie poleceń i umieszczenie ich w skrypcie otępiającym bash:

#!/bin/sh
source /home/user/project/env/bin/activate
cd /home/user/project/
./manage.py command arg

EDYTOWAĆ:

ars wymyślił działającą kombinację poleceń:

0 3 * * * cd /home/user/project && /home/user/project/env/bin/python /home/user/project/manage.py command arg

Przynajmniej w moim przypadku wywołanie skryptu aktywacyjnego dla virtualenv nic nie zrobiło. To działa, podobnie jak w przypadku serialu.

Powinieneś być w stanie to zrobić za pomocą pythonw swoim środowisku wirtualnym:

/home/my/virtual/bin/python /home/my/project/manage.py command arg

EDYCJA: Jeśli twojego projektu django nie ma w PYTHONPATH, musisz przejść do odpowiedniego katalogu:

cd /home/my/project && /home/my/virtual/bin/python ...

Możesz także spróbować zarejestrować awarię z crona:

cd /home/my/project && /home/my/virtual/bin/python /home/my/project/manage.py > /tmp/cronlog.txt 2>&1

Kolejną rzeczą do wypróbowania jest wprowadzenie tej samej zmiany w manage.pyskrypcie na samej górze:

#!/home/my/virtual/bin/python

Uruchamianie sourcez pliku cron nie działa, ponieważ cron używa go /bin/shjako domyślnej powłoki, która nie obsługuje source. Musisz ustawić zmienną środowiskową SHELL na /bin/bash:

SHELL=/bin/bash
*/10 * * * * root source /path/to/virtualenv/bin/activate && /path/to/build/manage.py some_command > /dev/null

Trudno jest ustalić, dlaczego to się nie udaje, ponieważ /var/log/syslognie rejestruje szczegółów błędu. Najlepiej aliasować się do rootowania, aby otrzymywać e-maile z wszelkimi błędami cron. Po prostu dodaj się /etc/aliasesi uruchom sendmail -bi.

Więcej informacji tutaj: http://codeinthehole.com/archives/43-Running-django-cronjobs-within-a-virtualenv.html

powyższy link został zmieniony na: https://codeinthehole.com/tips/running-django-cronjobs-within-a-virtualenv/

Nie szukaj dalej:

0 3 * * * /usr/bin/env bash -c 'cd /home/user/project && source /home/user/project/env/bin/activate && ./manage.py command arg' > /dev/null 2>&1

Podejście ogólne:

* * * * * /usr/bin/env bash -c 'YOUR_COMMAND_HERE' > /dev/null 2>&1

Piękno tego polega na tym, że NIE musisz zmieniać SHELLzmiennej crontab z shnabash

Jedynym poprawnym sposobem uruchamiania zadań cron Pythona podczas korzystania z virtualenv jest aktywacja środowiska, a następnie uruchomienie python środowiska w celu uruchomienia kodu.

Jednym ze sposobów na to jest użycie virtualenv's activate_thisw skrypcie python, patrz: http://virtualenv.readthedocs.org/en/latest/userguide.html#using-virtualenv-without-bin-python

Innym rozwiązaniem jest powtórzenie pełnej komendy, w tym aktywacja środowiska i przesłanie go do niego /bin/bash. Rozważ to dla /etc/crontab:

***** root echo 'source /env/bin/activate; python /your/script' | /bin/bash

Zamiast grzebać w shebangach specyficznych dla virtualenv, po prostu przejdź PATHna crontab.

Z aktywowanego virtualenv uruchom te trzy polecenia, a skrypty python powinny po prostu działać:

$ echo "PATH=$PATH" > myserver.cron
$ crontab -l >> myserver.cron
$ crontab myserver.cron

Pierwsza linia crontab powinna teraz wyglądać tak:

PATH=/home/me/virtualenv/bin:/usr/bin:/bin:  # [etc...]

Dla mnie najlepszym rozwiązaniem było jedno i drugie

• użyj pliku binarnego python w katalogu venv bin /
• ustaw ścieżkę Pythona, aby zawierała katalog modułów venv.

man pythonwspomina o modyfikacji ścieżki w powłoce w $PYTHONPATHlub w Pythonie przy pomocysys.path

Inne odpowiedzi wspominają pomysły na wykonanie tego przy użyciu powłoki. Z Pythona dodanie następujących wierszy do mojego skryptu pozwala mi pomyślnie uruchomić go bezpośrednio z crona.

import sys
sys.path.insert(0,'/path/to/venv/lib/python3.3/site-packages');

Oto jak wygląda sesja interaktywna -

Python 3.3.2+ (default, Feb 28 2014, 00:52:16) 
[GCC 4.8.1] on linux
Type "help", "copyright", "credits" or "license" for more information.

>>> import sys

>>> sys.path
['', '/usr/lib/python3.3', '/usr/lib/python3.3/plat-x86_64-linux-gnu', '/usr/lib/python3.3/lib-dynload']

>>> import requests
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
ImportError: No module named 'requests'   

>>> sys.path.insert(0,'/path/to/venv/modules/');

>>> import requests
>>>

Chciałbym to dodać, ponieważ poświęciłem trochę czasu na rozwiązanie problemu i nie znalazłem tutaj odpowiedzi na kombinację użycia zmiennych w cron i virtualenv. Więc może komuś pomoże.

PATH=/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin
DIR_SMTH="cd /smth"
VENV=". venv/bin/activate"
CMD="some_python_bin do_something"
# m h  dom mon dow   command
0 * * * * $DIR_SMTH && $VENV && $CMD -k2 some_target >> /tmp/crontest.log 2>&1

Nie działał dobrze, gdy był skonfigurowany

DIR_SMTH = "cd / smth &&. Venv / bin / enable"

Dzięki @davidwinterbottom , @ reed-sandberg i @mkb za podanie właściwego kierunku. Akceptowana odpowiedź faktycznie działa poprawnie, dopóki Twój python nie będzie musiał uruchomić skryptu, który musi uruchomić inny plik binarny Pythona z katalogu venv / bin.

To rozwiązanie sprawdziło się dla mnie dobrze.

source /root/miniconda3/etc/profile.d/conda.sh && \
conda activate <your_env> && \
python <your_application> &

Używam miniconda z Condą w wersji 4.7.12 na Ubuntu 18.04.3 LTS.

Jestem w stanie umieścić powyższe w skrypcie i bez problemu uruchomić go za pomocą crontab.

skrypt Pythona

from datetime import datetime                                                                                                                                                                
import boto   # check wheather its taking the virtualenv or not                                                                                                                                                                        
import sys                                                                                                                                                                                   
param1=sys.argv[1]     #Param                                                                                                                                                                                                                                                                                                                                                                    
myFile = open('appendtxt.txt', 'a')                                                                                                                                                      
myFile.write('\nAccessed on ' + param1+str(datetime.now())) 

Polecenie Crona

 */1 * * * *  cd /Workspace/testcron/ && /Workspace/testcron/venvcron/bin/python3  /Workspace/testcron/testcronwithparam.py param  

W powyższym poleceniu

• * / 1 * * * * - Wykonaj co mennicę
• cd / Workspace / testcron / - Ścieżka skryptu python
• / Workspace / testcron / venvcron / bin / python3 - Ścieżka Virtualenv
• Workspace / testcron / testcronwithparam.py - Ścieżka do pliku
• parametr - parametr