Difference between revisions of "hidden:Plans to be discussed"
From Lsdf
(Added DIS todo for Jos, Petzi and marcus) |
|||
Line 1: | Line 1: | ||
− | Sammlung von Dingen, die wir (teilweise) unbedingt gemeinsam besprechen sollten. |
+ | =Sammlung von Dingen, die wir (teilweise) unbedingt gemeinsam besprechen sollten.= |
+ | * Generell: Umgang mit nfs-shares wenn verwendete Benutzerverwaltung nur lokal? |
||
− | * LSDF-DIS |
||
+ | ** => Dann zukuenftig nur cifs (scp/sftp) erlauben? |
||
− | bereits 78% voll, ca. 622 TB frei - wie geht es damit weiter? |
||
− | Erweiterung -> geht wohl technisch eher nicht |
||
− | Was planen wir? Wie sieht es mit Wartung aus usw. |
||
+ | * gridftp zu und von LSDF-DIS in stand setzen und beschreiben fuer Benutzer |
||
− | Different disk sizes resulted in configuration of 2 pools. There is a policy runnign that migrates. Maybe Ludmilla can look into the system an propose change. |
||
+ | * konsolidierung von benutzer/institute/accounts |
||
+ | ** beispiel: ITG hat mehere direktories auf mehrere Systeme |
||
+ | ** beispiel: Jos van Wezel hat eine dir auf SONAS BW. Das hat er nicht gefragt und auch nie benoetigt :-) |
||
+ | ** beispiel: es gibt eine menge benutzer die nicht langer da sind (ausgeschieden) |
||
+ | * rueckbau der NFS und der remote GPI machine (Frau Knopf) |
||
− | Solution would be to put the S&S data on the DIS NFS Share. After that the SOFS can be switched off and the DS5000 cn be integrated into the DIS environment. |
||
+ | * verbesserte anbindung an IC2, FORlr etc. |
||
+ | * zweiter Jumphost oder andere redundante zugang fuer admins |
||
+ | ** SSH zugriff nur ueber jumphost. Keine loecher in den FW. |
||
+ | * themensammlung fuer einen LSDF AHM meeting (all hands meeting) und datum |
||
− | * DDN-Cluster - Wartung? Zukunft? |
||
+ | ** benutzer mehr einbeziehen in die gestaltung der functionalitaeten der LSDF |
||
− | * SONAS - Wartung? Zukunft? |
||
+ | ** die Benutzer haben die LSDF ermoeglcht und werden auch fuer einen neuen Antrag in 2016 benoetigt. |
||
+ | ** neue services einfuehren (S3, WebDav, Archiv Storage, IaaS, AaaS?) |
||
+ | * accounting fuer berichterstattung (wer verbraucht wieviel speicher) |
||
− | * cfengine - abschalten, puppet einfuehren? |
||
+ | * DDN:/gpfs/lsdf/test => |
||
− | Weitere Vorschlaege zur Konsolidierung: |
||
+ | =Hardware= |
||
+ | ==LSDF-DIS== |
||
+ | ** bereits 78% voll, ca. 622 TB frei - wie geht es damit weiter? |
||
+ | ** Erweiterung -> geht wohl technisch eher nicht |
||
+ | ** Was planen wir? Wie sieht es mit Wartung aus usw. |
||
+ | ** Different disk sizes resulted in configuration of 2 pools. There is a policy runnign that migrates. Maybe Ludmilla can look into the system an propose change. |
||
+ | ** Solution would be to put the S&S data on the DIS NFS Share. After that the SOFS can be switched off and the DS5000 cn be integrated into the DIS environment. |
||
+ | * SONAS - Wartung? Zukunft? |
||
+ | * rolle und aufgaben der verschiedene speichersysteme (BW,DIS,DDN) klaeren |
||
+ | * Wo ist die V7000 hin der mal als Block storage benutzt wurde? |
||
+ | * ist der von DIS an BW ausgeliehene DS5000 schon zurueck? |
||
+ | |||
+ | ==DDN-Cluster== |
||
+ | * DDN-Cluster - Wartung? Zukunft? |
||
+ | |||
+ | =Weitere Vorschlaege zur Konsolidierung:= |
||
+ | * cfengine - abschalten, puppet einfuehren? |
||
* Monitoring umziehen zu icinga (grossteils bereits gemacht), zabbix abschalten nachdem auch die benutzungsgrafiken abgebildet sind in incinga |
* Monitoring umziehen zu icinga (grossteils bereits gemacht), zabbix abschalten nachdem auch die benutzungsgrafiken abgebildet sind in incinga |
||
** important is also to gather performance data. Dafuer sollten auch triggers in betracht kommen die nicht nur fuer 'ueberwachung gedacht sind'. |
** important is also to gather performance data. Dafuer sollten auch triggers in betracht kommen die nicht nur fuer 'ueberwachung gedacht sind'. |
||
+ | |||
+ | =Dienste= |
||
* share.lsdf.kit.edu -> Daten umziehen und http ueber sonas anbieten? |
* share.lsdf.kit.edu -> Daten umziehen und http ueber sonas anbieten? |
||
** share.lsdf.kit.edu is acessible in the internet. http sonas nicht. |
** share.lsdf.kit.edu is acessible in the internet. http sonas nicht. |
||
Line 26: | Line 52: | ||
derzeitige manuelle Benutzerverwaltung per Datenbank abschalten |
derzeitige manuelle Benutzerverwaltung per Datenbank abschalten |
||
− | * Generell: Umgang mit nfs-shares wenn verwendete Benutzerverwaltung nur lokal? |
||
− | Dann zukuenftig nur cifs (scp/sftp) erlauben? |
||
+ | =Auth[NZ]= |
||
* -> IDM/DEI koennen IDP's von Partnern fuer LSDF einfach eingebunden werden? |
* -> IDM/DEI koennen IDP's von Partnern fuer LSDF einfach eingebunden werden? |
||
* -> IDM/DEI Konzept/Use-Cases erstellen was wir in der LSDF in der Benutzerverwaltung brauchen |
* -> IDM/DEI Konzept/Use-Cases erstellen was wir in der LSDF in der Benutzerverwaltung brauchen |
||
+ | =Projekte= |
||
− | * gridftp zu und von LSDF DIS in stand setzen und beschreiben fuer Benutzer |
||
− | * konsolidierung von benutzer/institute/accounts |
||
− | ** beispiel: ITG hat mehere direktories auf mehrere Systeme |
||
− | ** beispiel: Jos van Wezel hat eine dir auf SONAS BW. Das hat er nicht gefragt und auch nie benoetigt :-) |
||
− | ** beispiel: es gibt eine menge benutzer die nicht langer da sind (ausgeschieden) |
||
− | rueckbau der NFS und der remote GPI machine (Frau Knopf) |
||
− | * verbesserte anbindung an IC2, FORlr etc. |
||
− | * zweiter Jumphost oder andere redundante zugang fuer admins |
||
− | ** SSH zugriff nur ueber jumphost. Keine loecher in den FW. |
||
− | * themensammlung fuer einen LSDF AHM meeting (all hands meeting) und datum |
||
− | ** benutzer mehr einbeziehen in die gestaltung der functionalitaeten der LSDF |
||
− | ** die Benutzer haben die LSDF ermoeglcht und werden auch fuer einen neuen Antrag in 2016 benoetigt. |
||
− | ** neue services einfuehren (S3, WebDav, Archiv Storage, IaaS, AaaS?) |
||
+ | ==Hadoop Migration== |
||
+ | * neue version von hadoop fertig stellen |
||
* zugang von DIS SONAS auf Hadoop ermoeglichen |
* zugang von DIS SONAS auf Hadoop ermoeglichen |
||
** Marcus koordiniert mit Peter |
** Marcus koordiniert mit Peter |
||
Line 57: | Line 72: | ||
+ | ==Astor== |
||
− | * neue version von hadoop fertig stellen |
||
+ | * Wo soll ASTOR hin schreiben? |
||
− | * accounting fuer berichterstattung (wer verbraucht wieviel speicher) |
||
+ | * Wie bekommen wir nfs, samba, evtl sftp auf Trab? |
||
− | * rolle und aufgaben der verschiedene speichersysteme (BW,DIS,DDN) klaeren |
||
+ | * Wie bekommen wir die ASTOR Leute am sinnvollsten im LSDF-DIS Dienst untergebracht? |
||
− | * Wo ist die V7000 hin der mal als Block storage benutzt wurde? |
||
− | * ist der von DIS an BW ausgeliehene DS5000 schon zurueck? |
Revision as of 18:53, 19 November 2014
Contents
Sammlung von Dingen, die wir (teilweise) unbedingt gemeinsam besprechen sollten.
- Generell: Umgang mit nfs-shares wenn verwendete Benutzerverwaltung nur lokal?
- => Dann zukuenftig nur cifs (scp/sftp) erlauben?
- gridftp zu und von LSDF-DIS in stand setzen und beschreiben fuer Benutzer
- konsolidierung von benutzer/institute/accounts
- beispiel: ITG hat mehere direktories auf mehrere Systeme
- beispiel: Jos van Wezel hat eine dir auf SONAS BW. Das hat er nicht gefragt und auch nie benoetigt :-)
- beispiel: es gibt eine menge benutzer die nicht langer da sind (ausgeschieden)
- rueckbau der NFS und der remote GPI machine (Frau Knopf)
- verbesserte anbindung an IC2, FORlr etc.
- zweiter Jumphost oder andere redundante zugang fuer admins
- SSH zugriff nur ueber jumphost. Keine loecher in den FW.
- themensammlung fuer einen LSDF AHM meeting (all hands meeting) und datum
- benutzer mehr einbeziehen in die gestaltung der functionalitaeten der LSDF
- die Benutzer haben die LSDF ermoeglcht und werden auch fuer einen neuen Antrag in 2016 benoetigt.
- neue services einfuehren (S3, WebDav, Archiv Storage, IaaS, AaaS?)
- accounting fuer berichterstattung (wer verbraucht wieviel speicher)
- DDN:/gpfs/lsdf/test =>
Hardware
LSDF-DIS
- bereits 78% voll, ca. 622 TB frei - wie geht es damit weiter?
- Erweiterung -> geht wohl technisch eher nicht
- Was planen wir? Wie sieht es mit Wartung aus usw.
- Different disk sizes resulted in configuration of 2 pools. There is a policy runnign that migrates. Maybe Ludmilla can look into the system an propose change.
- Solution would be to put the S&S data on the DIS NFS Share. After that the SOFS can be switched off and the DS5000 cn be integrated into the DIS environment.
- SONAS - Wartung? Zukunft?
- rolle und aufgaben der verschiedene speichersysteme (BW,DIS,DDN) klaeren
- Wo ist die V7000 hin der mal als Block storage benutzt wurde?
- ist der von DIS an BW ausgeliehene DS5000 schon zurueck?
DDN-Cluster
- DDN-Cluster - Wartung? Zukunft?
Weitere Vorschlaege zur Konsolidierung:
- cfengine - abschalten, puppet einfuehren?
- Monitoring umziehen zu icinga (grossteils bereits gemacht), zabbix abschalten nachdem auch die benutzungsgrafiken abgebildet sind in incinga
- important is also to gather performance data. Dafuer sollten auch triggers in betracht kommen die nicht nur fuer 'ueberwachung gedacht sind'.
Dienste
- share.lsdf.kit.edu -> Daten umziehen und http ueber sonas anbieten?
- share.lsdf.kit.edu is acessible in the internet. http sonas nicht.
- NFS-shares LSDF-DIS, DDN, Hadoop uid's auf KIT-uids uebertragen
derzeitige manuelle Benutzerverwaltung per Datenbank abschalten
Auth[NZ]
- -> IDM/DEI koennen IDP's von Partnern fuer LSDF einfach eingebunden werden?
- -> IDM/DEI Konzept/Use-Cases erstellen was wir in der LSDF in der Benutzerverwaltung brauchen
Projekte
Hadoop Migration
- neue version von hadoop fertig stellen
- zugang von DIS SONAS auf Hadoop ermoeglichen
- Marcus koordiniert mit Peter
- rsync und hdfs auf sonas DIS (da die hadoop rechner werden plattgemacht)
- marcus kan die daten der HDFS und die homes mit einen chown neu zu ordnen (skripte dazu existieren)
- die hadoop wird an die ldap facade haengen.
- dan wird auf hadoop die home gemounted (von DDN) die uids stimmen jetzt
- ditto fuer die HDFS daten
- hadoop freigeben fuer betrieb
- DIS Nutzungsbedingungen diskutieren und updaten (Jos, Petzi, Marcus)
Astor
- Wo soll ASTOR hin schreiben?
- Wie bekommen wir nfs, samba, evtl sftp auf Trab?
- Wie bekommen wir die ASTOR Leute am sinnvollsten im LSDF-DIS Dienst untergebracht?