From 29d18952a0079df0fa990921611b29443bbbf2da Mon Sep 17 00:00:00 2001 From: root <root@sdvlnxproxy.slub-dresden.de> Date: Tue, 8 Jun 2021 13:14:19 +0200 Subject: [PATCH] add: Readme --- README.md | 126 ++++++++++++++++++++++++++++++++++++++++++++++++++++++ 1 file changed, 126 insertions(+) create mode 100644 README.md diff --git a/README.md b/README.md new file mode 100644 index 0000000..b1ddcfb --- /dev/null +++ b/README.md @@ -0,0 +1,126 @@ +# Bitstreamarchivierung für Mediathek + +Automatisierte Abgabe und Wiederherstellung der Archivpaket für die Archivierung über die Datensicherung (IBMSpectrum Protect). Ein Archivpaket besteht aus einem Digitalisat und wird als gepacktes Archivpaket (Format: tar) an die Datensicherung zur Archivierung übergeben bzw. aus dem Bitstreamarchiv wiederhergestellt. + +### Archivierung + +Über ein Ingestverzeichnis wird das zu archivierende Digitalisat in einem Verzeichnis von der Fachabteilung eingestellt. Das Verzeichnis wird nach der Signatur des Digitalisat benannt und dem entsprechenden Service (mediathek; z.B. mediathek_fon_sn_0002). In einem Unterordner _**docs2archive**_ wird von der Fachabteilung die Archivierungsanforderung angelegt. Die Archivierungsanforderung ist eine leere Datei, die wie der Ablageordner mit der Signatur des zu archivierenden Digitalisat und dem entsprechenden Servicenamen benannt und gespeichert wird. Das Hauptscript _**search4archivejobs.sh**_ sucht in dem Verzeichnis _**docs2archive**_ nach Archivierungsanforderung und startet bei vorhandener Archiviernungsanforderung das Script _**docs2archive.sh**_. Dieses übernimmt die Verarbeitung: +- packt das Digitalisat in ein gepacktes Archivpaket +- startet den Datensicherungsclient und übergibt das Archivpaket. +Dabei werden vorhandenen Archivierungsanforderungen sequentiell abgearbeitet. Eine in Abarbeitung befindliche Archivierngsanforderung wird mit einer Tilde vor dem Dateinamen gekennzeichnet. + +### Wiederherstellung + +Die Fachabteilung legt eine Wiederherstellungsanforderung in das Verzeichnis _**docs2retrieve**_. Die Wiederherstellungsanforderung ist eine leere Datei mit der Signatur als Dateinamen. Das Hauptscript _**search4archivejobs.sh**_ sucht in dem Verzeichnis _**docs2retrieve**_ nach Wiederherstellungsanforderungen und bei Vorhandensein einer Anforderung wird das Script _**docs2retrieve.sh**_ gestartet. Das Script _**docs2retrieve.sh**_ startet den Datensicherungsclient zur Wiederherstellung. Das wiederhergestellte Archivpaket wird in den Ordner _**retrieved**_ entpackt abgelegt und kann dort von der Fachabteilung abgeholt werden. + +### Aufräumarbeiten + +Die im Ingestverzeichnis abgelegten Digitalisate werden über das Script _**checkarchive2remove.sh**_ gelöscht. Dazu wird durch das Script geprüft, ob die Archivpakete erfolgreich im Bistreamearchiv abgelegt wurden. Ist dies erfolgt, wird im Ingestverzeichnis das Archivpaket gelöscht. + +### Logging + +Alle prozessierten Schritte werden in einer Logdatei _/var/log/jobs/archive/$(hostname)_archive_processing_`date +%Y%m%d`.log_ mitgeschrieben. Diese Logdateien werden nicht gelöscht. + +Alle anderen Fehlermeldungen werden in folgedner Logdatei mitgeschrieben: /var/log/server/$(hostname)_`date +%Y%m%d`.log. + + +## Vorraussetzung +- Datensicherungsclient: ISP-Cient neuste Version +- Access Rechte auf SDVARCHIV Node der Datensicherung +- Anbindung NAS Speicher, Zugriffsrechte für den Server +- Zugang zum Git der SLUB + +## Start Scripte + +`search4Archivejobs.sh <Ingestverzeichnis> <tsm_optfile>` + +`docs2archive.sh <Ingestverzeichnis> <Signatur> <tsm_optfile> <archivierungsanforderngsverzeichnis>` + +`docs2retrieve.sh <Ingestverzeichnis> <Signatur> <tsm_optfile>` + +## Installation + +### Anbindung NAS Speicher an Server + +Edit /etc/fstab: +``` +### Mediathek + +212.201.62.107:/vol/archivierung_processing_02 /media/nfs-mounts/sdvnas12/archiv/mediathek nfs rw,vers=3 + +### Archivierungslogdateien + +212.201.62.107:/vol/archivierung_log_01/archive_processing /var/log/jobs/archive nfs rw,vers=3 + +### Logdateien fuer Server + +212.201.62.73:/vol/linux_server_logs/sdv23varchive08 /var/log/server nfs rw,vers=3 +``` +Mount auf der Kommandozeile: +``` +skug@sdv23archive05:/opt/scripts# sudo mount -a +``` + +### Ablage Scripte + +Clone aus GIT der SLUB: + +``` +root@sdv23archive08:/#cd /opt + +root@sdv23archive08:/opt#sudo git clone https://git.slub-dresden.de/krug/bitstreamarchivierung_mediathek.git` + +``` + +### Anlegen Cronjobs + +Edit Crontab: + +``` +root@sdv23archive08:/#crontab -e + +* * * * * /opt/scripts/search4archivejobs.sh /media/nfs-mounts/sdvnas12/archiv/mediathek /opt/tivoli/tsm/client/ba/bin/dsm-archive.opt docs2archive>/dev/null 2>&1 + +``` +oder + +``` +root@sdv23archive08:/#cp /opt/bitstreamarchivierung_fotohek/crontab.backup /var/spool/cron/crontabs + +``` +### Konfiguration Datensicherungsclient + +Kopieren der Konfigurationsdateien: +``` +root@sdv23archive08:/#cp /opt/bitstreamarchivierung_mediathek/dsm.sys dsm-archive.opt /opt/tivoli/tsm/client/ba/bin/ + +``` + +Einmaliges Anmelden: +``` +root@sdv23archive08:/#cd /opt/tivoli/tsm/client/ba/bin/ +root@sdv23archive08:/#dsmc -optfile=dms-archive.opt + +``` + +### Sequentielle Bearbeitung + +Wird ein Archvipaket oder Weiederherstellungsanfrage bearbeitet, wird in diesem Verzeichnis eine Datei mit Prozess ID abgelegt. Damit ist gewährleistet, dass nur ein Prozess bearbeitet wird. Im Fehlerfall (z.Bsp. Datensicherungsclient ist nicht erreichbar), wird dieser Lock nicht gelöscht und es kann weder eine Archiveirung noch eine Wiederherstellung passieren. Dieser Lock muss nach Fehlerbehebung manuell gelöscht werden. + +Erstelle ein Verzeichnis _locks_: + +``` +root@sdv23archive08:/#cd /var +root@sdv23archive08:/#mkdir locks + +``` + +## Start und Stop + +### Stop +Auskommentieren Cronjobs in der Crontab über die Kommandozeile auf dem Server: +`crontab -e` + +### Start +Entfernen Auskommentierungen in der Crontab: +`crontab -e` -- GitLab