<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:st1="urn:schemas-microsoft-com:office:smarttags" xmlns="http://www.w3.org/TR/REC-html40">

<head>
<META HTTP-EQUIV="Content-Type" CONTENT="text/html; charset=us-ascii">
<meta name=Generator content="Microsoft Word 11 (filtered medium)">
<!--[if !mso]>
<style>
v\:* {behavior:url(#default#VML);}
o\:* {behavior:url(#default#VML);}
w\:* {behavior:url(#default#VML);}
.shape {behavior:url(#default#VML);}
</style>
<![endif]--><o:SmartTagType
 namespaceuri="urn:schemas-microsoft-com:office:smarttags" name="PlaceName"/>
<o:SmartTagType namespaceuri="urn:schemas-microsoft-com:office:smarttags"
 name="PlaceType"/>
<o:SmartTagType namespaceuri="urn:schemas-microsoft-com:office:smarttags"
 name="place"/>
<!--[if !mso]>
<style>
st1\:*{behavior:url(#default#ieooui) }
</style>
<![endif]-->
<style>
<!--
 /* Font Definitions */
 @font-face
        {font-family:Tahoma;
        panose-1:2 11 6 4 3 5 4 4 2 4;}
 /* Style Definitions */
 p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:12.0pt;
        font-family:"Times New Roman";}
a:link, span.MsoHyperlink
        {color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {color:blue;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal;
        font-family:Arial;
        color:navy;}
span.EmailStyle18
        {mso-style-type:personal-reply;
        font-family:Arial;
        color:navy;}
@page Section1
        {size:8.5in 11.0in;
        margin:1.0in 1.25in 1.0in 1.25in;}
div.Section1
        {page:Section1;}
-->
</style>

</head>

<body lang=EN-US link=blue vlink=blue>

<div class=Section1>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'>Also, make sure your servers /etc/hosts file
on all three servers looks similar to…<o:p></o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'><o:p> </o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'>127.0.0.1           localhost.localdomain
localhost<o:p></o:p></span></font></p>

<p class=MsoNormal><font size=3 color=navy face="Times New Roman"><span
style='font-size:12.0pt;color:navy'>10.0.0.1           backup<o:p></o:p></span></font></p>

<p class=MsoNormal><font size=3 color=navy face="Times New Roman"><span
style='font-size:12.0pt;color:navy'>10.0.0.2           oradw<o:p></o:p></span></font></p>

<p class=MsoNormal><font size=3 color=navy face="Times New Roman"><span
style='font-size:12.0pt;color:navy'>10.0.0.3           gistest2<o:p></o:p></span></font></p>

<p class=MsoNormal><font size=3 color=navy face="Times New Roman"><span
style='font-size:12.0pt;color:navy'><o:p> </o:p></span></font></p>

<p class=MsoNormal><font size=3 color=navy face="Times New Roman"><span
style='font-size:12.0pt;color:navy'>Britt</span></font><font size=2 color=navy
face=Arial><span style='font-size:10.0pt;font-family:Arial;color:navy'><o:p></o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'><o:p> </o:p></span></font></p>

<div>

<div class=MsoNormal align=center style='text-align:center'><font size=3
face="Times New Roman"><span style='font-size:12.0pt'>

<hr size=2 width="100%" align=center tabindex=-1>

</span></font></div>

<p class=MsoNormal><b><font size=2 face=Tahoma><span style='font-size:10.0pt;
font-family:Tahoma;font-weight:bold'>From:</span></font></b><font size=2
face=Tahoma><span style='font-size:10.0pt;font-family:Tahoma'>
linux-cluster-bounces@redhat.com [mailto:linux-cluster-bounces@redhat.com] <b><span
style='font-weight:bold'>On Behalf Of </span></b>Treece, Britt<br>
<b><span style='font-weight:bold'>Sent:</span></b> Friday, March 17, 2006 5:09
PM<br>
<b><span style='font-weight:bold'>To:</span></b> linux clustering<br>
<b><span style='font-weight:bold'>Subject:</span></b> RE: [Linux-cluster]
Unable to <st1:place w:st="on"><st1:PlaceType w:st="on">mount</st1:PlaceType> <st1:PlaceName
 w:st="on">GFS</st1:PlaceName></st1:place> on RHEL 3 U6</span></font><o:p></o:p></p>

</div>

<p class=MsoNormal><font size=3 face="Times New Roman"><span style='font-size:
12.0pt'><o:p> </o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'>Magnus,<o:p></o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'><o:p> </o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'>Try starting ccsd and lock_gulmd on all
three servers.  Once these start you should be able to see all three in
gulm_tool nodelist localhost.  At that point you should be able to mount
your GFS pool vol’s.  <o:p></o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'><o:p> </o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'>Your lock cluster has to have a quorum of
greater than half the servers configured in cluster.ccs, so at least 2 in your
case before it will allow a GFS vol to be mounted.<o:p></o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'><o:p> </o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'>Regards,<o:p></o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'><o:p> </o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'>Britt <o:p></o:p></span></font></p>

<p class=MsoNormal><font size=2 color=navy face=Arial><span style='font-size:
10.0pt;font-family:Arial;color:navy'><o:p> </o:p></span></font></p>

<div>

<div class=MsoNormal align=center style='text-align:center'><font size=3
face="Times New Roman"><span style='font-size:12.0pt'>

<hr size=2 width="100%" align=center tabindex=-1>

</span></font></div>

<p class=MsoNormal><b><font size=2 face=Tahoma><span style='font-size:10.0pt;
font-family:Tahoma;font-weight:bold'>From:</span></font></b><font size=2
face=Tahoma><span style='font-size:10.0pt;font-family:Tahoma'>
linux-cluster-bounces@redhat.com [mailto:linux-cluster-bounces@redhat.com] <b><span
style='font-weight:bold'>On Behalf Of </span></b>Magnus Andersen<br>
<b><span style='font-weight:bold'>Sent:</span></b> Friday, March 17, 2006 4:54
PM<br>
<b><span style='font-weight:bold'>To:</span></b> linux-cluster@redhat.com<br>
<b><span style='font-weight:bold'>Subject:</span></b> [Linux-cluster] Unable to
<st1:place w:st="on"><st1:PlaceType w:st="on">mount</st1:PlaceType> <st1:PlaceName
 w:st="on">GFS</st1:PlaceName></st1:place> on RHEL 3 U6</span></font><o:p></o:p></p>

</div>

<p class=MsoNormal><font size=3 face="Times New Roman"><span style='font-size:
12.0pt'><o:p> </o:p></span></font></p>

<div>

<p class=MsoNormal><font size=3 face="Times New Roman"><span style='font-size:
12.0pt'>Hi All,<br>
<br>
I've successfully installed and configured GFS on my three nodes, but when I
try to mount the filesystem the prompt hangs until I kill the mount
command.  All servers are running RHEL 3 AS/ES U6 with the
2.4.21-37.0.1.ELsmp kernel and are connected to a MSA1500 SAN via FC. 
I've installed the following GFS rpms:<br>
<br>
[root@oradw root]# rpm -qa | grep -i gfs<br>
GFS-modules-6.0.2.27-0.1<br>
GFS-modules-smp-6.0.2.27-0.1<br>
GFS-6.0.2.27-0.1<br>
<br>
<br>
Here is my pool configuration files and the output from pool_tool -s<br>
<br>
[root@backup gfs]# cat cluster_cca.cfg<br>
poolname cluster_cca<br>
subpools 1<br>
subpool 0 0 1<br>
pooldevice 0 0 /dev/sda1<br>
[root@backup gfs]# cat pool0.cfg<br>
poolname pool_gfs1<br>
subpools 1<br>
subpool 0 0 1<br>
pooldevice 0 0 /dev/sda2<br>
[root@backup gfs]# cat pool1.cfg<br>
poolname pool_gfs2<br>
subpools 1<br>
subpool 0 0 1<br>
pooldevice 0 0 /dev/sdb<br>
[root@backup gfs]# pool_tool -s<br>
 
Device                                           
Pool Label<br>
 
======                                           
==========<br>
 
/dev/pool/cluster_cca                      
<- CCA device -> <br>
 
/dev/pool/pool_gfs1                    
<- GFS filesystem -><br>
 
/dev/pool/pool_gfs2                    
<- GFS filesystem -><br>
  /dev/cciss/c0d0                 
<- partition information -><br>
 
/dev/cciss/c0d0p1                   
<- EXT2/3 filesystem -> <br>
 
/dev/cciss/c0d0p2                         
<- swap device -><br>
 
/dev/cciss/c0d0p3                      
<- lvm1 subdevice -><br>
 
/dev/sda                        
<- partition information -><br>
 
/dev/sda1                                       
cluster_cca <br>
 
/dev/sda2                                         
pool_gfs1<br>
 
/dev/sdb                                          
pool_gfs2<br>
<br>
<br>
Here are my ccs files.<br>
<br>
[root@backup cluster_cca]# cat cluster.ccs<br>
cluster {<br>
        name = "cluster_cca"<br>
        lock_gulm {<br>
               
servers = ["backup", "oradw", "gistest2"]<br>
        }<br>
}<br>
[root@backup cluster_cca]# cat fence.ccs <br>
fence_devices {<br>
        manual {<br>
               
agent = "fence_manual"<br>
        }<br>
}<br>
[root@backup cluster_cca]# cat nodes.ccs<br>
nodes {<br>
        backup {<br>
               
ip_interfaces {<br>
                       
eth1 = "<a href="http://10.0.0.1">10.0.0.1</a>"<br>
               
}<br>
               
fence {<br>
                       
man {<br>
                               
manual {<br>
                                       
ipaddr = " <a href="http://10.0.0.1">10.0.0.1</a>"<br>
                               
}<br>
                       
}<br>
               
}<br>
        }<br>
        oradw {<br>
               
ip_interfaces {<br>
                       
eth4 = " <a href="http://10.0.0.2">10.0.0.2</a>"<br>
               
}<br>
               
fence {<br>
                       
man {<br>
                               
manual {<br>
                                       
ipaddr = " <a href="http://10.0.0.2">10.0.0.2</a>"<br>
                               
}<br>
                       
}<br>
               
}<br>
        }<br>
        gistest2 {<br>
               
ip_interfaces {<br>
                       
eth0 = " <a href="http://10.0.0.3">10.0.0.3</a>"<br>
               
}<br>
               
fence {<br>
                       
man {<br>
                               
manual {<br>
                                       
ipaddr = " <a href="http://10.0.0.3">10.0.0.3</a>"<br>
                               
}<br>
                       
}<br>
               
}<br>
        }<br>
}<br>
<br>
<br>
<br>
<br>
Here is the command I used to create the filesystem: <br>
<br>
gfs_mkfs -p lock_gulm -t cluster_cca:pool_gfs2 -j 10 /dev/pool/pool_gfs2 <br>
<br>
<br>
Mount command that hangs:<br>
<br>
mount -t gfs /dev/pool/pool_gfs2 /gfs2<br>
<br>
Here is the output I see in my messages log file.  I see the last 5 lines
repeated for each time I tried to mount the filesystem.<br>
<br>
Mar 17 15:47:05 backup ccsd[2645]: Starting ccsd <a href="http://6.0.2.27/"
target="_blank">6.0.2.27</a>:<br>
Mar 17 15:47:05 backup ccsd[2645]:  Built: Jan 30 2006 15:28:33 <br>
Mar 17 15:47:05 backup ccsd[2645]:  Copyright (C) Red Hat, Inc. 
2004  All rights reserved. <br>
Mar 17 15:48:10 backup lock_gulmd[2652]: Starting lock_gulmd <a
href="http://6.0.2.27/" target="_blank">6.0.2.27</a>. (built Jan 30 2006
15:28:54) Copyright (C) 2004 Red Hat, Inc.  All rights reserved. <br>
Mar 17 15:48:10 backup lock_gulmd[2652]: You are running in Fail-over mode. <br>
Mar 17 15:48:10 backup lock_gulmd[2652]: I am (backup) with ip (<a
href="http://127.0.0.1/" target="_blank">127.0.0.1</a>)<br>
Mar 17 15:48:10 backup lock_gulmd[2652]: Forked core [2653]. <br>
Mar 17 15:48:11 backup lock_gulmd[2652]: Forked locktable [2654]. <br>
Mar 17 15:48:12 backup lock_gulmd[2652]: Forked ltpx [2655].<br>
Mar 17 15:48:12 backup lock_gulmd_core[2653]: I see no Masters, So I am
Arbitrating until enough Slaves talk to me.<br>
Mar 17 15:48:12 backup lock_gulmd_core[2653]: Could not send quorum update to
slave backup <br>
Mar 17 15:48:12 backup lock_gulmd_core[2653]: New generation of server state.
(1142628492484630)<br>
Mar 17 15:48:12 backup lock_gulmd_LTPX[2655]: New Master at backup:<a
href="http://127.0.0.1/" target="_blank"> 127.0.0.1</a><br>
Mar 17 15:52:14 backup kernel: Lock_Harness <a href="http://6.0.2.27/"
target="_blank">6.0.2.27</a> (built Jan 30 2006 15:32:58) installed<br>
Mar 17 15:52:14 backup kernel: GFS <a href="http://6.0.2.27/" target="_blank">6.0.2.27</a>
(built Jan 30 2006 15:32:20) installed<br>
Mar 17 15:52:15 backup kernel: Gulm <a href="http://6.0.2.27/" target="_blank">6.0.2.27</a>
(built Jan 30 2006 15:32:54) installed<br>
Mar 17 15:54:51 backup kernel: lock_gulm: ERROR cm_login failed. -512 <br>
Mar 17 15:54:51 backup kernel: lock_gulm: ERROR Got a -512 trying to start the
threads. <br>
Mar 17 15:54:51 backup lock_gulmd_core[2653]: Error on xdr (GFS Kernel Interface:<a
href="http://127.0.0.1/" target="_blank">127.0.0.1</a> idx:3 fd:8):
(-104:104:Connection reset by peer) <br>
Mar 17 15:54:51 backup kernel: lock_gulm: fsid=cluster_cca:gfs1: Exiting
gulm_mount with errors -512 <br>
Mar 17 15:54:51 backup kernel: GFS: can't mount proto = lock_gulm, table
cluster_cca:gfs1, hostdata =<br>
<br>
<br>
Result from gulm_tool:<br>
<br>
[root@backup gfs]# gulm_tool nodelist backup<br>
 Name: backup<br>
  ip    = <a href="http://127.0.0.1/" target="_blank">127.0.0.1</a><br>
  state = Logged in<br>
  mode = Arbitrating<br>
  missed beats = 0<br>
  last beat = 1142632189718986<br>
  delay avg = 10019686 <br>
  max delay = 10019735<br>
<br>
<br>
<br>
I'm a newbie to clusters and I have no clue where to look next.  If any
other information is needed let me know. <br>
<br>
Thanks,<br clear=all>
<o:p></o:p></span></font></p>

</div>

<p class=MsoNormal><font size=3 face="Times New Roman"><span style='font-size:
12.0pt'><br>
<br clear=all>
<br>
-- <br>
Magnus Andersen<br>
Systems Administrator / Oracle DBA<br>
Walker & Associates, Inc. <o:p></o:p></span></font></p>

</div>

</body>

</html>