Massenimport aus Excel-Dateien mit EAD-Anreicherung
Dieses Workflow Plugin für Goobi workflow erlaubt den Massenimport von Daten ausgehend von Metadaten innerhalb von Excel-Dateien.
Übersicht
Identifier
intranda_workflow_hu_importer
Lizenz
GPL 2.0 oder neuer
Letzte Änderung
25.07.2024 10:57:59
Einführung
Dieses Workflow Plugin für Goobi workflow erlaubt einen Massenimport von Metadaten aus Excel-Dateien, wobei nicht nur Vorgänge in Goobi erzeugt werden, zu denen jeweils eine METS-Datei gehört. Zusätzlich wird ausserdem eine vorliegende EAD-Datei mit weiteren Knoten angereichert.
Dieses Plugin wurde für den Import von Daten der HU Berlin zur Anreicherung des Sammlungsportals entwickelt. In der Regel kommen bei einem solchen Import mindestens zwei verschiedene Exceldateien unterschiedlichen Typs zum Einsatz. Typ 1 spezifiziert dabei die Metadaten für das Objekt selbst (TopStruct mit Metadaten wie Haupttitel, Schlagworte usw.) und Daten für die Eigenschaften des Vorgangs (z.B. zukünftiger Name des Vorgangs). Der Typ 2 hingegen spezifiziert in der Regel diejenigen Strukturelemente, die als Unterelemente innerhalb der METS-Datei erzeugt werden sollen und welche Metadaten diese erhalten sollen (im Fall der HU Berlin z.B. Kapitel/Lochkarte, Name einer Mediendatei usw.).
Installation
Das Plugin besteht aus folgenden Dateien:
Die Datei plugin-intranda-workflow-hu-importer-base.jar
muss in folgendes Verzeichnis kopiert werden:
Die Datei plugin-intranda-workflow-hu-importer-gui.jar
muss in folgendes Verzeichnis kopiert werden:
Daneben gibt es die Konfigurationsdatei plugin_intranda_workflow_hu_importer.xml
, die in folgendem Ordner abgelegt werden muss:
Überblick und Funktionsweise
Nach der Installation und Inbetriebnahme des Plugins steht dieses innerhalb des Menüs Workflow
zur Verfügung. Nach dem Aufruf kann ein ImportSet ausgewählt werden und der Datenimport gestartet werden. Das Plugin wird versuchen im metadataFolder
die Ordner processed
und failure
anzulegen. Es sollte also darauf geachtet werden, dass Goobi in diesem Ordner Schreibrechte hat. Wird eine Datei ohne Fehler eingelesen, wird Sie in den Ordner processed
verschoben. Falls ein Fehler auftritt, landet sie im Ordner failure
.
Das Plugin kann mit oder ohne EAD-Anbindung betrieben werden. Wenn die EAD-Anbindung für ein ImportSet nicht verwendet werden soll, müssen im entsprechenden ImportSet
einfach die Attribute eadType
, eadFile
und eadNode
weggelassen werden.
Die im mediaFolder
liegenden Dateien werden während des Imports in die Verzeichnisse der erzeugten Vorgänge kopiert.
Konfiguration
Die Konfiguration des Plugins erfolgt über die Konfigurationsdatei plugin_intranda_workflow_hu_importer.xml
und kann im laufenden Betrieb angepasst werden. Im folgenden ist eine beispielhafte Konfigurationsdatei aufgeführt:
Elementtypen
Das Plugin kennt zunächst die folgenden Elementtypen.
config_plugin
config_plugin
ist das Hauptelement der Konfigurationsdatei und enthält alle anderen Elemente
importSet
Ein ImportSet beschreibt gleichartige Importvorgänge.
mappingSet
Ein MappingSet besteht aus einer Menge von field
-Elementen.
field
field
-Elemente sind Kindelemente von mappingSet
. Jedes Element ordnet einer Spalte des Exceldokumentes eine Eigenschaft des zu erzeugenden Vorgangs oder dessen Metadaten zu.
Element: importSet
name
Name des ImportSets. Dieser wird später innerhalb der Nutzeroberfläche angezeigt.
metadataFolder
Hier muss angegeben werden, wo sich der Ordner mit den Dateien befindet, die mit dem im Attribut mappingSet
spzefizierten MappingSet gemappt werden.
mediaFolder
Dieses optionale Attribut gibt an, wo sich die Mediendateien befinden.
workflow
Hier muss angegeben werden, welche Produktionsvorlage zum Anlegen der Vorgänge verwendet werden soll.
project
Hier kann angegeben werden, welchem Projekt der Vorgang zugeordnet werden soll. Das Attribut ist optional. Wird kein Projekt angegeben, wird das in der Produktionsvorlage spezifizierte Projekt verwendet.
mappingSet
Hier muss angegeben werden, mit welchen Mapping die Datei im metadataFolder
verarbeitet werden sollen.
publicationType
Der Publikationstyp des Vorgangs (z.B. Monographie)
structureType
Der Strukturtyp der Elemente, die im Vorgang als Unterelement angelegt werden sollen (z.B. Kapitel oder Lochkarten). Jede Zeile eines Exceldokumentes des Typs 2 beschreibt dabei ein Element dieses Strukturtyps.
importSetDescription
Dieses optionale Attribut gibt an, wo sich die Datei mit den Metadaten zu den Vorgängen befindet. Ist der Parameter gesetzt, muss zu jeder Datei im metadataFolder
eine Zeile in diesem Dokument spezifiziert sein.
descriptionMappingSet
Hier kann das MappingSet für die Datei mit der ImportSet-Beschreibung spezifiziert werden. Das Attribut ist optional.
eadType
Typ des EAD-Knotens (z.B. file). Das Attribut ist optional.
eadFile
Name der EAD-Datei/Datenbank. Das Attribut ist optional.
eadNode
ID des Parent-Knotens, unterhalb dessen der neue EAD-Knoten eingefügt werden soll. Das Attribut ist optional.
rowStart
Festlegung für die erste Zeile der Excel-Datei im metadataFolder, die ausgewertet werden soll. Das Attribut ist optional.
rowEnd
Festlegung für die letzte Zeile der Excel-Datei im metadataFolder, die ausgewertet werden soll. Das Attribut ist optional. Wird als Wert 0
angegeben, wird die vollständige Datei ausgewertet.
processTitleMode
Hier kann angegeben werden, wie die anzulegenden Vorgänge benannt werden sollen. Es stehen die Modi FILENAME
, UUID
, XLSX
und EAD
zur Auswahl. Standardmäßig wird der Modus UUID
verwendet. Wenn der Modus XLSX
verwendet wird, wird erwartet, dass im Konfigurationselement descriptionMappingSet
ein field
des Typs ProcessName
vorhanden ist. Im Modus FILENAME
wird der Dateiname als Vorgangsname verwendet. Im Modus UUID
und EAD
wird für den Vorgang eine UUID erzeugt. Im Falle des Modus EAD
, wird diese UUID zudem als ID des Knotens im EAD-Baum genutzt.
processPerRow
Falls kein Wert innerhalb der Konfiguration von importSetDescription
angegeben wurde und soll für jede Zeile der zu importierenden Excel-Datei ein Vorgang erstellt werden, muss dieses Attribut auf true
gesetzt werden.
Die Elemente mappingSet und field
Ein Element des Typs mappingSet
verfügt nur über das Attribut name
. Damit kann es dann für das Mapping direkt angesprochen werden. Als Unterelemente sind beliebig viele Elemente field
erlaubt.
column
Spalte(n) die gemappt werden soll(en). Der eingelesene Werte wird dann dem Metadatum zugewiesen, das im Attribut mets
definiert wurde. Alternativ kann der Inhalt der Zelle auch einer Vorgangseigenschaft wie beispielsweise dem Vorgangstitel zugeordnet werden, wenn als type ProcessName
spezifiziert wird. Wenn mehrere Spalten in einem Wert abgebildet werden sollen, können diese einfach mit Komma getrennt aufgeführt werden (z.B. A,B,AA
). Das Attribut ist obligatorisch.
label
Hier kann optional der Spaltentitel angegeben werden. Er wird vom Plugin nicht ausgewertet und dient nur der Dokumentation.
mets
Dieses Attribut legt fest, welchem Metadatentyp der eingelesene Wert zugeordnet werden soll. Zulässig sind hier alle Werte, die laut Regelsatz ein gültiges Metadatum für das entsprechende Strukturelements sind.
type
Dieser Parameter ist obligatorisch und kann die Werte: person
, metadata
, media
, copy
, FileName
und ProcessName
annehmen. Die Werte werden unten näher erläutert.
gndColumn
Für Mappings deren Attribut type
den Wert metadata
oder person
annimmt, kann hier die Spalte angegeben werden, in der sich eine Normdatenbank-URL befindet, die den Datensatz näher beschreibt (z.B. https://d-nb.info/gnd/118551310). Der Normdatensatz wird dann mit dem Metadatum verknüpft.
separator
Dieser Separator wird verwendet, wenn mehrere Elemente in einem Wert abgebildet werden sollen. Der Standardwert ist ;
. Das Attribut ist optional.
blankBeforeSeparator
Falls der Inhalt mehrerer Spalten in einen Wert gemappt werden soll, kann hier bestimmt werden, ob ein Leerzeichen vor dem Separator gesetzt werden soll. Der Standardwert ist false
.
blankAfterSeparator
Falls der Inhalt mehrerer Spalten in einen Wert abgebildet werden soll, kann hier bestimmt werden, ob ein Leerzeichen nach dem Separator gesetzt werden soll. Der Standardwert ist false
.
ead
Wenn dieser Parameter gesetzt ist, wird der Inhalt der Zelle diesem EAD-Metadatentyp zugeordnet.
target
Wird nur unterstützt, wenn der in dem Attribut type
als Wert copy
verwendet wurde. Hier kann der Zielordner für die zu kopierenden Dateien angegeben werden. Hierbei wird das Goobi-Variablensystem unterstützt.
structureType
Wird nur unterstützt, wenn im Attribut type
als Wert media
verwendet wurde. Falls gewünscht ist, dass die Mediendateien einem spezifischen anzulegendem Strukturelement zugeordnet werden, wird hier der Typ des Strukturelementes hier festgelegt.
Werte des Type-Attributes
metadata
Ein Element vom Typ metadata
wird dem im Attribut mets
spezifizierten Metadatum in der METS-Datei zugeordnet
person
Hierbei handelt es sich um einen METS-Datentyp. Wenn der Typ person
verwendet wird, sollte immer auch das Attribut mets
gesetzt werden.
media
In der angegebenen Spalte müssen sich ein oder mehrere Dateinamen befinden. Der Seperator ist hierbei normalerweise ,
. Er kann aber bei Bedarf durch Verwendung des Attributes separator
anders festgelegt werden. Es wird davon ausgegangen, dass sich die Datei im Verzeichnis mediaFolder
befindet. Siehe hierzu bei der Konfiguration von Importset
.
copy
In der angegebenen Spalte müssen sich ein oder mehrere Dateinamen befinden. Der Seperator ist hierbei normalerweise ,
. Er kann aber bei Bedarf durch Verwendung des Attributes separator
anders festgelegt werden. Es wird davon ausgegangen, dass sich die Datei im Verzeichnis mediaFolder
befindet. Siehe hierzu bei der Konfiguration von Importset
. Die Dateien werden in den Ordner verschoben, der im Attribut target
angegeben wird. Das target
-Attribut unterstützt hierbei auch das Goobi-Variablensystem.
FileName
Dieser Typ muss verwendet werden, um die Spalte mit dem Dateinamen der Prozessbeschreibung anzugeben. Dieser Feldtyp ist also nur in einem descriptionMappingSet
sinnvoll.
ProcessName
Dieser Typ muss verwendet werden, um die Spalte mit dem zukünftigen Prozessnamen zu spezifizieren.
PublicationType
Wird der Typ PublicationType
verwendet, wird der Wert aus der Zelle als Publikationstyp genutzt. Wenn die Zelle leer ist, wird der im Attribut ImportSet
festgelegte PublicationType
verwendet. Der Typ wird nur für das Erzeugen des obersten Strukturelements eines Vorgangs verwendet.
structureType
Wird der Typ structureType
verwendet, wird der Wert aus der Zelle, als Stukturtyp verwendet. Wenn die Zelle leer ist, wird der im Attribut ImportSet
festgelegte sturctureType
verwendet. Der Typ wird nur für das Erzeugen von Strukturelementen eines Vorgangs verwendet, also von dessen Unterelementen. Bezogen auf ein Buch entspricht dies beispielsweise den Titelblättern und Kapiteln.
Last updated