Skip to content
Snippets Groups Projects
Commit 29d18952 authored by root's avatar root
Browse files

add: Readme

parent 37e35fef
No related branches found
No related tags found
No related merge requests found
README.md 0 → 100644
# Bitstreamarchivierung für Mediathek
Automatisierte Abgabe und Wiederherstellung der Archivpaket für die Archivierung über die Datensicherung (IBMSpectrum Protect). Ein Archivpaket besteht aus einem Digitalisat und wird als gepacktes Archivpaket (Format: tar) an die Datensicherung zur Archivierung übergeben bzw. aus dem Bitstreamarchiv wiederhergestellt.
### Archivierung
Über ein Ingestverzeichnis wird das zu archivierende Digitalisat in einem Verzeichnis von der Fachabteilung eingestellt. Das Verzeichnis wird nach der Signatur des Digitalisat benannt und dem entsprechenden Service (mediathek; z.B. mediathek_fon_sn_0002). In einem Unterordner _**docs2archive**_ wird von der Fachabteilung die Archivierungsanforderung angelegt. Die Archivierungsanforderung ist eine leere Datei, die wie der Ablageordner mit der Signatur des zu archivierenden Digitalisat und dem entsprechenden Servicenamen benannt und gespeichert wird. Das Hauptscript _**search4archivejobs.sh**_ sucht in dem Verzeichnis _**docs2archive**_ nach Archivierungsanforderung und startet bei vorhandener Archiviernungsanforderung das Script _**docs2archive.sh**_. Dieses übernimmt die Verarbeitung:
- packt das Digitalisat in ein gepacktes Archivpaket
- startet den Datensicherungsclient und übergibt das Archivpaket.
Dabei werden vorhandenen Archivierungsanforderungen sequentiell abgearbeitet. Eine in Abarbeitung befindliche Archivierngsanforderung wird mit einer Tilde vor dem Dateinamen gekennzeichnet.
### Wiederherstellung
Die Fachabteilung legt eine Wiederherstellungsanforderung in das Verzeichnis _**docs2retrieve**_. Die Wiederherstellungsanforderung ist eine leere Datei mit der Signatur als Dateinamen. Das Hauptscript _**search4archivejobs.sh**_ sucht in dem Verzeichnis _**docs2retrieve**_ nach Wiederherstellungsanforderungen und bei Vorhandensein einer Anforderung wird das Script _**docs2retrieve.sh**_ gestartet. Das Script _**docs2retrieve.sh**_ startet den Datensicherungsclient zur Wiederherstellung. Das wiederhergestellte Archivpaket wird in den Ordner _**retrieved**_ entpackt abgelegt und kann dort von der Fachabteilung abgeholt werden.
### Aufräumarbeiten
Die im Ingestverzeichnis abgelegten Digitalisate werden über das Script _**checkarchive2remove.sh**_ gelöscht. Dazu wird durch das Script geprüft, ob die Archivpakete erfolgreich im Bistreamearchiv abgelegt wurden. Ist dies erfolgt, wird im Ingestverzeichnis das Archivpaket gelöscht.
### Logging
Alle prozessierten Schritte werden in einer Logdatei _/var/log/jobs/archive/$(hostname)_archive_processing_`date +%Y%m%d`.log_ mitgeschrieben. Diese Logdateien werden nicht gelöscht.
Alle anderen Fehlermeldungen werden in folgedner Logdatei mitgeschrieben: /var/log/server/$(hostname)_`date +%Y%m%d`.log.
## Vorraussetzung
- Datensicherungsclient: ISP-Cient neuste Version
- Access Rechte auf SDVARCHIV Node der Datensicherung
- Anbindung NAS Speicher, Zugriffsrechte für den Server
- Zugang zum Git der SLUB
## Start Scripte
`search4Archivejobs.sh <Ingestverzeichnis> <tsm_optfile>`
`docs2archive.sh <Ingestverzeichnis> <Signatur> <tsm_optfile> <archivierungsanforderngsverzeichnis>`
`docs2retrieve.sh <Ingestverzeichnis> <Signatur> <tsm_optfile>`
## Installation
### Anbindung NAS Speicher an Server
Edit /etc/fstab:
```
### Mediathek
212.201.62.107:/vol/archivierung_processing_02 /media/nfs-mounts/sdvnas12/archiv/mediathek nfs rw,vers=3
### Archivierungslogdateien
212.201.62.107:/vol/archivierung_log_01/archive_processing /var/log/jobs/archive nfs rw,vers=3
### Logdateien fuer Server
212.201.62.73:/vol/linux_server_logs/sdv23varchive08 /var/log/server nfs rw,vers=3
```
Mount auf der Kommandozeile:
```
skug@sdv23archive05:/opt/scripts# sudo mount -a
```
### Ablage Scripte
Clone aus GIT der SLUB:
```
root@sdv23archive08:/#cd /opt
root@sdv23archive08:/opt#sudo git clone https://git.slub-dresden.de/krug/bitstreamarchivierung_mediathek.git`
```
### Anlegen Cronjobs
Edit Crontab:
```
root@sdv23archive08:/#crontab -e
* * * * * /opt/scripts/search4archivejobs.sh /media/nfs-mounts/sdvnas12/archiv/mediathek /opt/tivoli/tsm/client/ba/bin/dsm-archive.opt docs2archive>/dev/null 2>&1
```
oder
```
root@sdv23archive08:/#cp /opt/bitstreamarchivierung_fotohek/crontab.backup /var/spool/cron/crontabs
```
### Konfiguration Datensicherungsclient
Kopieren der Konfigurationsdateien:
```
root@sdv23archive08:/#cp /opt/bitstreamarchivierung_mediathek/dsm.sys dsm-archive.opt /opt/tivoli/tsm/client/ba/bin/
```
Einmaliges Anmelden:
```
root@sdv23archive08:/#cd /opt/tivoli/tsm/client/ba/bin/
root@sdv23archive08:/#dsmc -optfile=dms-archive.opt
```
### Sequentielle Bearbeitung
Wird ein Archvipaket oder Weiederherstellungsanfrage bearbeitet, wird in diesem Verzeichnis eine Datei mit Prozess ID abgelegt. Damit ist gewährleistet, dass nur ein Prozess bearbeitet wird. Im Fehlerfall (z.Bsp. Datensicherungsclient ist nicht erreichbar), wird dieser Lock nicht gelöscht und es kann weder eine Archiveirung noch eine Wiederherstellung passieren. Dieser Lock muss nach Fehlerbehebung manuell gelöscht werden.
Erstelle ein Verzeichnis _locks_:
```
root@sdv23archive08:/#cd /var
root@sdv23archive08:/#mkdir locks
```
## Start und Stop
### Stop
Auskommentieren Cronjobs in der Crontab über die Kommandozeile auf dem Server:
`crontab -e`
### Start
Entfernen Auskommentierungen in der Crontab:
`crontab -e`
0% Loading or .
You are about to add 0 people to the discussion. Proceed with caution.
Please register or to comment