Информация для пользователей

    Оглавление


Организация работы
    Вычислительные ресурсы, предоставляемые пользователям для выполнения объемных вычислительных программ, и их краткая характеристика перечислены в разделе "Ресурсы". Основу их на данный момент составляют:

    Эти вычислительные системы образуют единый гетерогенный вычислительный кластер, работающий под управлением общей диспетчерской системы управления заданиями OpenPBS. Система сконфигурирована таким образом, что на каждом процессоре может выполняться не более одного счетного процесса.
    Для параллельных программ не поддерживается механизм выполнения одной программы на процессорах разной архитектуры. Пользователь должен заранее определиться, на какой из 4-х перечисленных выше систем должна быть выполнена его программа, и поставить ее в соответствующую очередь. Если в момент запуска задания необходимые ресурсы отсутствуют, оно ставится в очередь до освобождения требуемых ресурсов.
    Из выше сказанного становится понятным, что основной режим выполнения заданий на перечисленных системах - это режим пакетной обработки заданий, запускаемых через диспетчерскую систему OpenPBS. Это означает, что запускаемая программа не должна быть интерактивной, т.е. она не должна содержать ввода с клавиатуры. Вывод на консоль возможен, но он будет буферизоваться и запишется в специальный файл по окончанию решения задачи. Можно просматривать результаты решения в процессе выполнения программы, если в PBS-скрипте использовать механизм перенаправления вывода. Имеется достаточно подробная инструкция по работе с системой PBS.

Регистрация пользователей
    Доступ к вычислительным ресурсам суперкомпьютерного центра ЮФУ получают пользователи, прошедшие процедуру регистрации. Регистрация выполняется системным администратором (к. 215 ЮГИНФО ЮФУ) по заявлению, подписанному руководителем подразделения с указанием характера выполняемых работ и требуемых ресурсов (объем оперативной и дисковой памяти, ориентировочное время выполнения программы). В результате регистрации пользователи получают идентификационное имя (login) и временный пароль, который после первого соединения с системой должен быть заменен на постоянный (рекомендуется менять пароли не реже одного раза в месяц). Изменение пароля в NIS выполняется командой: 

yppasswd
или командой: 
passwd

Дисковое пространство
    В процессе регистрации для пользователей создается так называемая домашняя директория, в которую записываются стартовые конфигурационные файлы .bashrc, .login и .cshrc. Эти конфигурационные файлы написаны таким образом, чтобы обеспечить правильный старт и настройку переменных окружения при подключении к любой из перечисленных выше систем. Поэтому модификация их должна выполняться достаточно осторожно. Прототипы этих файлов находятся в системном каталоге /etc/skel, из которого они могут быть скопированы в случае необходимости. Только в пределах своей домашней директории пользователи могут создавать свои каталоги и файлы. Объем использованного дискового пространства контролируется системой квотирования и не может превышать установленного для пользователя лимита. В случае превышения квоты новые файлы не будут создаваться, а программы, которые будут пытаться это сделать, будут сниматься со счета.
    Физически домашняя директория пользователя находится на управляюющем сервере (rsufs) в каталоге /export/home/$USER, откуда она экспортируется на все компьютеры всех кластеров. Это позволяет работать с любой из этих систем без пересылки файлов.  
    Для эффективного использования дискового пространства рекомендуется использовать механизм архивирования и сжатия архивов. Информация, которая не будет интенсивно использоваться в ближайшее время, может быть собрана в отдельную директорию и упакована командой: 

tar cvzf dir.tar.gz dir
где dir - имя упаковываемой директории. В результате выполнения команды будет создан файл dir.tar.gz, после чего каталог dir может быть удален. При этом, в зависимости от характера данных, объем может быть уменьшен в 2-8 раз. Это тем более оправдано и удобно, поскольку файловый менеджер Midnigth Commannder (mc) позволяет напрямую работать с этими архивами как с директориями. Для распаковки архива следует использовать команду: 
tar xvzf dir.tar.gz
После исполнения этой команды каталог dir будет восстановлен. Архивный файл при этом не уничтожается.
    Информация о физическом расположении каталогов пользователей приведена для наиболее оптимальной организации работы с ними. Очевидно, что все манипуляции с файлами (пересылка по ftp, редактирование, удаление, архивирование и т.д.) наиболее разумно выполнять на тех компьютерах, где они реально находятся.
    На этих же компьютерах следует выполнять контроль занятого дискового пространства и текущего значения квот на дисковое простанство и на количество файлов, которые могут быть созданы пользователем. Выполняется это командой: 
quota -v
Числа, относящиеся к дисковому пространству, выдаются в килобайтах.
Можно получить более детальную информацию о том, какие директории сколько занимают дискового пространства с помощью команды: 
dus
Команда может быть набрана в любом каталоге и выдаст информацию по всем директориям, находящимся в текущем каталоге.

Доступ к UNIX системам
   Доступ к высокопроизводительным системам разрешен со всех компьютеров внутренней сети ЮФУ с помощью команд соединения с удаленной системой (ssh, ftp). Для компьютеров, находяшихся за пределами университетской сети, необходима специальная регистрация этих компьютеров, и соединение разрешено только по защищенным протоколам. При использовании в качестве рабочих мест персональных компьютеров с операционной системой Windows на них должны быть установлены соответствующие клиентские программы (ssh, ftp). Такие клиентские программы имеются в стандартном программном обеспечении Windows, однако они, как правило, не очень удобны в работе. В качестве терминальной программы мы рекомендуем использовать Putty. Это очень простая и надежная программа, не требующая инсталляции - достаточно поместить ее в какой-либо каталог и создать для нее иконку на desktop'e. Для пересылки файлов можно использовать Windows Commander. При передаче текстовых файлов в текстовом режиме это приложение производит необходимое преобразование из DOS формата в UNIX формат и наоборот. Если приложение, которое вы используете, такого преобразования не выполняет, то на управляющем компьютере можно использовать команды dos2unix и unix2dos.

Модификация файлов
    Для модификации текстов программ на UNIX системах имеется множество текстовых редакторов.

а) если на компьютере, с которого вы работаете, нет X-сервера, то можно использовать терминальные редакторы:

1. vi - стандартный редактор, работающий на всех без исключения UNIX системах;
2. mc - содержит встроенный экранный редактор, вызываемый клавишей F4 (ESC 4, если клавиша F4 не работает);

б) если Х-сервер имеется (UNIX станция или Windows c эмулятором Х-терминала, например, exceed):

1. xedit - стандартный X-windows редактор (очень примитивный);
2. kedit - редактор оболочки KDE;
3. gedit - редактор оболочки GNOME;
4. nedit - очень хороший редактор для программистов.

Для манипуляций с файлами используются стандартные UNIX команды cp, rm, mv, diff, cat и так далее.
Описание этих команд можно посмотреть, набрав: 

man command
Удобные средства для управления файлами предоставляет mc - эквивалент Norton commander'a.

Почтовая служба
    Почтовая служба в полном объеме работает на сервере rsusu1, в том числе имеется POP3 сервер, позволяющий посылать и получать почту с любого удаленного компьютера. Что касается других компьютеров, то на них почтовая служба работает в минимальном объеме, и не рекомендуется использовать ее для внешних отправлений. Тем не менее, различные сервисные службы посылают почтовые уведомления о тех или иных событиях (об исчерпании лимита дискового пространства или о причинах снятия задачи). Для своевременного получения почтовых отправлений, посылаемых служебными системами, рекомендуется в корневом каталоге пользователя создать файл с именем .forward, в котором следует указать ваш основной почтовый адрес.  Например,
victor@rsusu1.rnd.runnet.ru

Информационные команды
    Для получения информации о текущем состоянии вычислительных узлов и очередей заданий имеется ряд команд. Приведем некоторые из них.
# Команда pestat - команда из пакета PBS, показывает состояние вычислительных узлов.
# Команда qstat -a - команда из пакета PBS, показывает очередь заданий в порядке их поступления.
# Команда qstat -ak - показывает очередь заданий, отсортированную по архитектурам узлов.
# Команда qstat -q - показывает интегральную информацию по очередям.
# Команда clcpu - показывает состояние вычислительных узлов (число подключенных к системе пользователей, загрузку системы за последние 1 мин. и 5 мин.; если на узле имеются счетные процессы, то для каждого из них показывается собственник процесса, процент использования CPU, процент использования оперативной памяти, время выполнения задания и имя программы). Команда может быть запущена только на rsufs, а для мониторинга состояния других узлов (кроме кластеров) на них должен в корневом каталоге пользователя существовать файл .rhosts, разрешающий запуск команд с rsufs. Содержимое этого файла должно иметь вид:
rsufs username.
# Команда clfree - показывает количество свободных вычислительных узлов на каждом из кластеров .

Средства разработки программ
    Средства разработки программ включают в себя компиляторы для различных языков (и интерпретаторы), отладчики, библиотеки подпрограмм, средства разработки параллельных программ и т.д. Мы стремимся в максимальной степени обеспечить унифицированность прикладного программного обеспечения на всех архитектурах для обеспечения совместимости программ по крайней мере на уровне исходных текстов. Тем не менее, дать общее описание средств разработки для всех архитектур вряд ли возможно. Это связано с тем, что, например, функционально идентичные библиотеки по-разному называются на различных системах или требуют подключения каких-то других библиотек. Поэтому информация о средстах разработчика для каждой архитектуры выделена в отдельные страницы (см. Средства разработки)

Визуализация результатов
    Пакетная обработка заданий не предполагает интерактивной выдачи результатов. Тем не менее, существует возможность просмотра результатов программы, запущенной в пакетном режиме, в процессе ее решения. Для этого можно использовать механизм перенаправления выдачи в файл. В PBS скрипте в строке запуска программы записывается конструкция: 

./progname > out.dat
Здесь out.dat - имя файла, в который будет перенаправляться информация, выдаваемая на терминал. Тогда, после запуска программы в пакетном режиме можно набрать на терминале команду: 
tail -f out.dat ,
которая будет выдавать на терминал информацию по мере ее записи в файл. Прервать просмотр без всякого ущерба для задачи можно, нажав клавиши Ctrl C (ни в коем случае Ctrl Z). Точно так же в любой момент можно возобновить просмотр.
    Чаще всего под визуализацией результатов понимается их обработка в программе и выдача на экран в графическом виде. Пакетная обработка не препятствует такому режиму выполнения задания. Более того, графическая информация может быть выдана на экран любого компьютера (не обязательно того, с которого запущено задание). Однако, для этого должны быть соблюдены два условия:
  1. На компьютере, на экран которого будет выдаваться графическая информация, должен быть запущен Х-сервер в момент начала выполнения программы.
  2. Должен быть разрешен доступ к Х-серверу с того компьютера, на котором выполняется задание.
При несоблюдении этих условий задача будет снята с решения.
    Для того, чтобы организовать такой режим работы, в программу должна быть передана переменная окружения DISPLAY, указывающая адрес экрана, куда должна выдаваться графическая информация. Делается это добавлением в PBS скрипт специальной строки, например: 
#PBS -v DISPLAY=rsusu2.cc.rsu.ru:0.0
Здесь rsusu2.cc.rsu.ru - имя компьютера, на экран которого будет выдаваться графическая информация.
Некоторые пакеты и библиотеки графических подпрограм позволяют выдавать результаты в графические файлы (GIF,PS и т.д.). Разумеется, такой режим возможен только для статических картинок, одноко это избавляет от необходимости соблюдения условий 1 и 2. В целях унификации программного обеспечения графические пакеты по возможности устанавливаются на все вычислительные системы, однако в наиболее полном объеме они поддерживаются на компьютере SUN (rsusu2).

Вопросы по организации работы направляйте по адресу:  root@rsusu1.rnd.runnet.ru
или звоните по телефону: (863) 219-97-13
контактное лицо: Дацюк Виктор Николаевич, начальник сектора