Jak kompresować i czyścić dzienniki za pomocą logrotate, ale nie obracać ich

10

Mam serwer Tomcat, który tworzy dzienniki dostępu za pośrednictwem zaworu ( org.apache.catalina.valves.FastCommonAccessLogValve ). Ten zawór zajmuje się obracaniem pliku dziennika dostępu, ale nie kompresowaniem go ani usuwaniem po pewnym czasie.

W tej chwili mam zadanie cron, które służy find [...] -mtime +30 [...]do kompresji i usuwania dzienników. Wolę używać logrotate, aby rotacja logów była w scentralizowanym miejscu dla wszystkich logów. Nie lubię mieć osobnego rozwiązania dla Tomcat.

Próbowałem przeczytać dokumentację Logrotate, ale wciąż jestem trochę zagubiony. Czy mogę używać programu Logrotate tylko do kompresji i czyszczenia plików dziennika? Jak mam to zrobić?

Lub odwracając problem, czy istnieje zawór dziennika dostępu Tomcat, który kompresuje i czyści pliki dziennika?

Dziękuję za Twoją pomoc !

Guillaume
źródło
BTW: FastCommonAccessLogValve jest przestarzałe w 6.0 tomcat.apache.org/tomcat-6.0-doc/api/org/apache/catalina/valves/...
Janning

Odpowiedzi:

17

Dość prosty, który widziałem, działa w ten sposób.

Utwórz plik w /etc/logrotate.d o nazwie tomcat zawierający następujące elementy: -

/var/log/tomcat/catalina.out { 
  copytruncate 
  daily 
  rotate 7 
  compress 
  missingok 
}

Działa to codziennie , kompresuje plik i zachowuje wartość 7 dni ( obrót o 7 ). copytruncate oznacza, że ​​skopiuje, a następnie obetnie oryginalny plik, dzięki czemu nie będzie potrzeby ponownego uruchamiania tomcat. brak ok nie spowoduje błędu, jeśli go nie ma.

Zawór access.log można zmienić na nieobrotowy, dodając rotatable = false: -

<Valve className="org.apache.catalina.valves.AccessLogValve
     ...
     ...
     suffix="log" rotatable="false" />
Decado
źródło
1
Mój problem polega na tym, że w przeciwieństwie do catalina.out mój dziennik dostępu jest już obrócony.
Guillaume,
3
Okej, rotację dziennika dostępu można wyłączyć, ustawiając rotatable = false w argumentach Valve. Odpowiedź zmieniona, aby to uwzględnić.
Decado,
2

Zmodyfikowany skrypt TimP - Dodano usuwanie bardzo starych plików, dodano skanowanie w poszukiwaniu starych skompresowanych plików.

#!/bin/bash
#
# TPP 2013-02-21
# RJK 2014-08-14
#
# Tomcat apps use a variety of loggers, mostly log4j.
# These rotate, conflicting with logrotate, the unix log rotation system.
#
# Some files eg catalina.out
# are rotated to a backup containing a date eg catalina.2013-01-06.log
# which can then be compressed with bz2 to catalina.2013-01-06.log.bz2
# or removed if older than a given number of days(MTIME).
#
cd /var/log/tomcat6
# 2013-02-21
DATE=`date --rfc-3339=date`
YEAR=`date +%Y`
MILLENIUM=20
# 2014-08-14
MTIME=14
# 2014-08-14
#for f in $(find catalina* |grep -v bz2 |grep -v '$DATE' |grep $YEAR)
for f in $(find catalina* |grep -v bz2 |grep -v '$DATE' |grep $MILLENIUM)
do
 # 2014-08-14
 if test `find $f -mtime +$MTIME`
 then
   echo "rm -f $f"
   rm -f $f
 else
   echo "bzip2 $f"
   bzip2 $f
 fi
done
# However others are active whilst containing a date
# so we will find all and not compress the most recent
for l in 'localhost*' 'opt-db*' 'opt*' 'host-manager*' 'manager*'
do
 export previous=
 for f in $(find $l |grep -v bz2 |sort)
 do
  if [ "${previous}" != "" ]
  then
    echo "bzip2 ${previous}"
    bzip2 $previous
  fi
  export previous=$f
 done
done
# 2014-08-14
for f in $(find *bz2)
do
 if test `find $f -mtime +$MTIME`
 then
   echo "rm -f $f"
   rm -f $f
 fi
done
exit 0 
Rich K.
źródło
1

Nie chciałem zmieniać konfiguracji Tomcat, więc stworzyłem skrypt, który kompresował obrócone pliki

#! / bin / bash
#
# TPP 21.02.2013
#
# Aplikacje Tomcat używają różnych rejestratorów, głównie log4j.
# Obracają się, kolidując z logrotate, unikatowym systemem rotacji logów. 
#
# Niektóre pliki, np. Catalina.out
# są obracane do kopii zapasowej zawierającej datę, np. catalina.2013-01-06.log
#, które można następnie skompresować za pomocą bz2 do catalina.2013-01-06.log.bz2
#

cd / var / log / tomcat6

# 2013-02-21
DATA = `data --rfc-3339 = data`
ROK = `data +% Y`

for f in $ (find catalina * | grep -v bz2 | grep -v '$ DATE' | grep $ YEAR)
zrobić
 echo "bzip2 $ f" 
 bzip2 $ f
gotowy

# Jednak inni są aktywni, ale zawierają datę
# więc znajdziemy wszystko, a nie skompresujemy najnowszego
dla lw 'localhost *' 'opt-db *' 'opt *' 'host-manager *' 'manager *'
zrobić
 eksport poprzedni =
 dla f w $ (znajdź $ l | grep -v bz2 | sort)
 zrobić
  if ["$ {previous}"! = ""]
  następnie
    echo „bzip2 $ {previous}” 
    bzip2 $ poprzedni
  fi
  eksportuj poprzednie = $ f
 gotowy
gotowy

wyjście 0

TimP
źródło
1

To zaskakująco proste. Po prostu powiedz logrotate, które pliki chcesz obrócić. nocreatemówi logrotate, aby nie odtwarzał pustego pliku po przeniesieniu starego (jeśli obracasz pliki do podfolderu).

/var/log/tomcat/catalina.out.* { 
  daily 
  nocreate
  compress 
  missingok 
}
Andrew Lorien
źródło
0

Dla kompresji local_access_log.YYYY-MM-DD.txt napisałem ten skrypt po obejrzeniu tego postu: -

#!/bin/bash
#
# If Tomcat uses server.xml config to rotate localhost_access_log,
# the daily rotated logs will need compressing and old ones deleted to stop filling
# the log partiton. Cannot use the system logrotate command as conficts with tomcat rotate
# therefore run this script in a daily cronjob
#
# localhost_access_log.2015-09-03.txt
#
# Add this script in /etc/cron.daily/ owned by root
#

CATALINA_BASE=`ps aux | grep catalina.base | awk -F'catalina.base\=' '{print $2}' | awk '{print $1}'`

if [ ! $CATALINA_BASE ]
then
    if [ -r /var/lib/tomcat8 ]
    then
        CATALINA_BASE=/var/lib/tomcat8
    else
        echo "Error: cannot find CATALINA_BASE"
        exit 1
    fi
fi

cd ${CATALINA_BASE}/logs

if [ $? -ne 0 ]
then
    echo "Error, cannot cd to logs directory, quitting...."
    exit 1
fi

# today's date (not to be gzipped)
DATE=`date --rfc-3339=date`
# number of days to keep
MTIME=28

# Compress all previous days uncompressed logs
for log in `ls localhost_access_log* | grep -v bz2 | grep -v $DATE`
do
    bzip2 $log
done

# delete old logs
find . -name "*.bz2" -mtime +$MTIME -exec rm {} \;

exit 0
John Cooper
źródło