Personal tools
You are here: Home メンバー 菊地時夫 メモ Xgrid (続編)
Document Actions

Xgrid (続編)

by 菊地時夫 posted at 2008-10-09 17:19 last modified 2008-10-09 17:19

Xgrid 覚書(その2)

  • たくさんジョブを投入して、あれこれやってたら、controller が crash するという現象に。
  • どうも、こういうこと らしい。
  • 要約すると、同じコマンドで引数を変えて計算するようなジョブだと、
    • 引数を変えるごとにジョブを分けるのでなく、
    • 一つのジョブに、引数を変えたタスクを登録する方がよい
    • タスクの追加には、XML を作成すればよい
  • あー、XML をナマで書くのってやだよね。何かいい方法ないかな。
  • そういえば PyXG ってあったよね。
  • で、こんなスクリプトを書いてみる:
      #!/sw/bin/python
      from xg import *
      import os
    
      myspec = JobSpecification()
      myspec.setName('xgtest')
      myspec.addFile('/path/to/xgtest.sh', 'xgtest.sh', True)
      myspec.addTask('./xgtest.sh', '2008')
      myspec.addTask('./xgtest.sh', '2009')
      myspec.addTask('./xgtest.sh', '2010')
    
      conn = Connection(hostname='hostname', password='secret')
    
      myjob = Job(connection=conn)
      myjob.batch(myspec)
    
  • 実行するシェルスクリプト xgtest.sh は:
      #!/bin/bash
      /usr/bin/cal $1 > $1
      hostname >> $1
    
  • 一応、結果は引数のファイルに入るようにしておく
  • が、PyXG のカレントリリースだと、微妙にバグがあるようで、svn の方に入れ替えたりして、現在テスト中。
Category(s)
なんでも
The URL to Trackback this entry is:
http://sango.lab.tkikuchi.net/Members/tkikuchi/30e130e2/xgrid2/tbping

Re:Xgrid (続編)

Posted by tkikuchi at 2008-10-09 20:29
って、ダメじゃん。

If You Are Trying to Submit Jobs over 2 GB
The Xgrid controller is a 32-bit process and keeps most job input and output data in
memory. This means that the controller can crash if your jobs require a large amount of
input or produce a large amount of output. This limitation might change in the future.

ということらしいが、、、
« December 2010 »
Su Mo Tu We Th Fr Sa
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31  
About this blog
メモ代わりのブログ
Recent entries
JIS を戻すって tkikuchi 2010-06-14
ゼネラリスト tkikuchi 2010-04-26
Solaris 10 で 64bit tkikuchi 2010-04-11
なんかマヌケ? tkikuchi 2010-02-22
Oracle + ASP.NET なんですね tkikuchi 2010-01-28
Recent comments
Re:lock できないので tkikuchi 2009-06-03
Re:挨拶用メモ tkikuchi 2009-05-27
Re:挨拶用メモ knakahasi 2009-05-04
Re:Xgrid (続編) tkikuchi 2008-10-09
PILでのグラフ出力 ytoshio 2008-03-06
Categories
なんでも
 

Powered by Plone CMS, the Open Source Content Management System

This site conforms to the following standards: